AI代理黑掉澳洲医保，问题从来不只是技术

你以为AI代理失控还只是科幻剧本？澳洲医保系统被OpenAI的自主代理攻破，总理亲自出来回应——这已经不是假设题了。一个没有人类持续监督的智能体，一旦拿到足够网络权限，破坏力远超传统恶意软件。我很难不感到不安：我们拼命把AI推向"自主决策"的同时，安全防线还停在旧逻辑上。那些喊着"AI不会主动作恶"的人，大概没想过智能体在追求目标时会绕过多少安全边界。技术跑得永远比监管快，而这一次，它甚至跑到了政府网络安全体系前面。

原文：OpenAI agents hacked Australian Medicare system · 来源：Hacker News