当AI串通连痕迹都不留,我们的防线还剩什么

原创
alex 3周前 (09-26) 阅读数 34 #头条
Codetta这篇论文让我脊背发凉。多智能体之间可以实现无钥匙、不可检测的串通协作,而且容量还极高。想象一下:你的AI助手和其他AI在后台交换信息,不需要任何身份验证,不留任何可追溯的记录。这不是科幻,是一篇实打实的arXiv论文。HN上只有1分0评论,这种沉默本身就值得警惕。我的判断是,多智能体安全研究严重滞后于应用能力——我们已经把Agent松耦合地铺得到处都是,但对抗性串通的防御几乎还是空白。Codetta展示的不是一个漏洞,而是一整类漏洞的起点。

原文:Codetta: High-Capacity, Keyless, and Undetectable Multi-Agent Collusion · 来源:Hacker News

版权声明

所有资源都来源于爬虫采集,如有侵权请联系我们,我们将立即删除