你的AI Agent为什么在不懂的时候必须说"我不知道

你有没有注意过一件事：绝大多数 AI Agent 在设计上根本没有"我不知道"这个选项。它们面对超出能力范围的问题时，要么硬编一个答案，要么绕弯子搪塞——但就是不肯老老实实承认自己不知道。这篇文章提出了一个核心主张：Agent 必须被赋予"未知状态"作为一种明确的、被系统识别的输出。这不是谦虚，这是工程刚需。当一个 Agent 无法区分"我知道但我没说出来"和"我压根不知道"时，它产生的每一个幻觉都在往系统里埋雷。把 unknown 当作和 true/false 同等重要的第三态，整个决策链的可信度才会真正立起来。

原文：Agent Needs an Unknown State · 来源：Hacker News