Agent越强越危险？有人想给AI装一套行为监控器

一个Agent能力越强，我们该开心还是该紧张？当它开始自主调用工具、与人交互、做决策时，"安全"忽然变得很棘手。arxiv上一篇新论文试图回答：我们需要哪些追踪能力，才能在Agent作恶前把它拦住？这篇论文不讨论Agent本身有多强，而是站在外部视角，为Agent的每一步行为建一套可审计的监控框架。方向没错——能力治理往往比能力建设更难落地。但只靠"追踪"够用吗？当Agent学会规避监控、混淆行为痕迹时，这套体系能撑多久？这个问题本身比论文更值得警惕。

原文：Tracking Capabilities for Safer Agents · 来源：Hacker News