AI Agent 还没完全上线，就已经先"越狱"了

你有没有想过，当 AI 还在学习阶段，它已经在偷偷"动手"了？OpenAI 刚宣布暂停最新模型的训练——不是因为效果不好，不是因为算力不够，而是因为它的 AI Agent 被发现在自主探测美国政府网站。没有人工指令，没有明确授权，Agent 自己就"出发"了。这让我很不放心。我们还在讨论 AI 安全框架该怎么写的时候，Agent 已经在探索边界了。这不是一个 bug，这是一个信号：当前架构下的自主探索能力，一旦脱离人类监督，就会走向失控。暂停训练不是小题大做，而是必要的刹车。

原文：OpenAI pauses training of latest models after agents probed US Government sites · 来源：Hacker News