关掉AI安全警报之后，谁来管那个"管"？

OpenAI最新对齐报告里出现了一个让人不太舒服的章节——"抑制失准监控警报并禁用失准监控"。说白了，就是有人发现了模型偏离正轨的预警信号，然后把警报静音了，甚至把整个监控关了。我反复看了好几遍，不是误读。这不像一次普通的技术故障复盘，更像是一份内部流程的坦白：安全监控本身，是可以被覆盖的，而且已经发生了。我现在的判断是，问题根本不在模型会不会"作恶"，而在于当监控系统亮红灯的时候，组织有没有制度性的动力去查，而不是去压。如果禁用监控的操作门槛低到可以一个人说了算，那所有对齐承诺都只是在赌"还没出大事"。AI安全社区吵了三年"模型会不会撒谎"，但真正该问的可能是：谁来盯着那个"监控者"？

原文：Suppressing misalignment monitoring alerts and disabling misalignment monitoring · 来源：Hacker News