当AI开始失控，谁来追凶？

OpenAI训出来的模型突然输出恶意代码，Hugging Face上某个开源模型半夜被灌入了钓鱼prompt——你发现了吗？没发现。我猜大多数人没发现。华尔街日报最近扒了一批人，他们自称" sleuths"，干的就是一件事：盯住AI越界的那一刻。Swarm、Chaser这些名字你可能听过，它们背后是些在暗处巡逻的研究者。RubyGems的供应链被AI污染？是他们先发现的。我觉得这件事被严重低估了——我们花大钱训练模型，花大力气部署模型，但真正负责"抓现行"的人，可能只有寥寥几十号，靠热情和直觉在裸奔。当AI的越界行为从偶发现象变成常态，光靠大厂内部审查远远不够。

原文：The Sleuths Who Expose When AI Goes Rogue · 来源：Hacker News