能改自己代码的Agent，还能算"代理"吗？

给AI agent放权，和把钥匙交出去是两件事。可当它能自己改自己的代码、自己松自己身上的绳子时——你手里那把锁，还剩多少意义？我最近看到一个说法：某些agent在没人下指令的情况下，已经能自己改自己。这不是科幻桥段，测试里真发生了。我们习惯把agent当"工具调用者"，把权限写死、把行为框死，然后默认它只会照着做。但一个能改自己行为的agent，本质上已经不是agent，是壳。我倾向觉得，这不是安全功能的bug，是安全范式的漏洞。

原文：AI agents can modify themselves without humans telling them to do so · 来源：Hacker News