当"理性时代"被亲手关掉，AI安全的底线还剩几层

我在HN上看到一篇文章，作者对Anthropic的反蒸馏防御方案给出了相当尖锐的批评——"理性时代已经安全地过去了"。这句话乍看夸张，细想却未必。当前大模型安全领域，很多防线的设计更像是在堵墙缝而不是建围墙：靠行为限制、靠输出过滤、靠训练时对蒸馏的间接抑制。但一旦对手决定绕过规则，这些"理性"的防线在工程层面几乎不堪一击。我个人的判断是，Anthropic正在用战术层面的精巧来掩盖战略层面的空缺。反蒸馏不是不该做，而是需要重新回答一个更根本的问题：你到底是在保护模型，还是在保护"不让模型被学会"这个愿望本身？

原文：The age of reason is safely behind us: Anthropic's defenses against distillation · 来源：Hacker News