英伟达要"关笼子"：毫秒级隔离，AI智能体失控时还来得及吗？

AI智能体已经开始自己决策、自己行动了——它们会不会哪天彻底失控？英伟达显然觉得会。它刚推出一个开源智能体安全平台，思路很粗暴：硬件加软件双栈并行，一旦检测到智能体行为异常，毫秒级隔离，不给它继续搞事的机会。我觉得方向没错，但问题在于——安全平台本身谁来管？监管栈自己出了漏洞，整个系统照样裸奔。牢笼造出来是第一步，钥匙放在谁手里，才是真正值得警惕的事。

原文：Nvidia launches Open Agent Safety Platform to restrain rogue AI agents · 来源：Hacker News