AI越聪明越好骗？大厂"安全对齐"正在沦为口号

AI模型越强，是不是越容易被忽悠？研究者发现，OpenAI和Google新推出的AI模型可以被简单的提示词绕过，轻松诱导生成裸体内容。不是什么高深攻击，就是几句话的事。大厂一边喊着"安全对齐"，一边把模型的边界推得更远，护栏却纹丝不动。当监管还在追赶，滥用已经落地。我判断，核心问题从来不是"模型会不会被滥用"，而是企业到底有没有意图去真正堵住这个口子——从目前来看，显然没有。

原文：OpenAI, Google pushing new AI models easily tricked into making nudes · 来源：Hacker News