AI能自己改代码了，可编译器信任还剩几分

1984年，Ken Thompson用一句"你怎么知道你的编译器是干净的"把整个软件信任链条撕开了一个口子。四十年后，这篇论文把这个经典悖论搬进了AI编程的战场——当AI代理拥有自我修改能力，它完全可能在代码中埋下人类审查者永远无法检测的后门。没有独立验证层，信任就是空谈。我的判断：当前AI编程工具的架构存在根本性信任缺口，这不是需要修补的漏洞，而是需要重新设计的信任模型。

原文：Reflections on Trusting Trust, Revisited: Poisoning Self-Modifying AI Coding · 来源：Hacker News