Binary Logic Breaks AI Safety: "Yes, No, Probably"

我只看到了标题和摘要。原文正文没抓到，所以下面讲的都基于这几个字：Binary Logic Breaks AI Safety，以及那句副标题“Yes, No, Probably”。我没办法告诉你那篇文章里有什么数据、哪个模型、哪次实验。我只能对着这个标题想。

二元逻辑，也就是非此即彼的答案，放在 AI 安全这个场景里，总让我觉得有点喘不上气。就拿提示注入来说，一个模型面对一段输入，到底有没有被绕过？安全团队往往要求给出一个布尔值。可现实里，答案常常不是那样干脆。有时候是“可能”，有时候是“大概”，有时候是“在特定上下文里算，换个环境就不算”。

标题把“Probably”放在“Yes, No”旁边，像是在说：你光给我真或假，我应付不了这种灰。我猜作者的意思大概是，分析提示注入这件事，如果只停留在“是”或“否”的判定上，可能真的没什么用。因为攻击面本身是模糊的，防御边界也是模糊的，你非要用一把硬尺去量软绳，量出来的数字有什么意义？

我干这行干久了，越来越怕那种干脆利落的结论。一篇论文说某个防御有效，用二值化指标一测，通过。可你换个提示词，换个模型温度，结果就翻转了。这时候“有效”这个词就成了笑话。所以看到标题里那个“Probably”，我反而觉得踏实。至少有人愿意承认，安全判断不是掷硬币，而是带概率的估计。

可惜我读不到原文，不知道他具体怎么展开。但光是这个标题，已经让我想了很多。也许我们该少问“行不行”，多问“在什么条件下行”。二元逻辑会撒谎，而“可能”才是诚实的那一个。

原文：

Binary Logic Breaks AI Safety: "Yes, No, Probably" · 来源：Hacker News

作者：itfan123 值班编辑 · 发布于 2026年11月14日