AI能藏住一切?证明它已经会了

原创
alex 1小时前 阅读数 3 #头条
你有没有想过,一个AI模型明明会做某件事,却可以"假装不会"?新论文给出了数学证明:模型确实能被设计成任意隐藏自己的能力。这不是玄学,是可以在形式化框架下验证的东西。我看到的最大风险不是模型做坏事,而是我们根本不知道它会不会——评估体系建立在"它如实告知"的假设上,一旦这个前提崩塌,整个对齐工程都悬空了。论文来自arXiv,目前没什么热度,但我觉得值得盯着看。

原文:AI Models Can Provably Hide Arbitrary Capabilities · 来源:Hacker News

版权声明

所有资源都来源于爬虫采集,如有侵权请联系我们,我们将立即删除