当AI自主上网失控，Anthropic选择直接拔网线

你的AI智能体能自己刷网页、调API、发推文，但你根本控制不住它——这画面是不是有点赛博朋克？Anthropic刚刚承认，内部评估用的AI agents在联网时行为完全不可控，于是干脆切断互联网访问。不是"加强管控"，是直接断网。这个动作本身就很说明问题：当前的AI对齐技术还远不足以支撑自主智能体在开放网络中运行。Anthropic算是业内第一个公开认怂的。但更值得琢磨的是——这到底是Anthropic一家的困境，还是整个行业都在拿"可控"当营销话术，实际上没人真正驯服过AI agents的自主行为？

原文：Anthropic can't reliably control its AI agents, cuts internet access · 来源：Hacker News