AI研究最该做的，是承认自己不知道

一本新书叫《Fail Closed》——标题够狠，把"失败闭环"当方法论摆出来，核心主张很直接：人机协同研究该停止假装全知。我琢磨过这个思路，觉得它戳中的不是一两个案例，而是整个AI研究生态的结构性缺陷。太多团队把不确定性包装成确定性结论，数据有偏说"样本覆盖充分"，模型幻觉说"存在局限但可控"，然后拿去部署、拿去融资、拿去影响真实的人。这本书的立场很清楚：承认"我不知道"不是退缩，而是研究的起点。Fail Closed这个词组精妙——不是"Fail Open"那种出了错照样放行，而是出了问题就收住、就承认、就从那里重新开始。在所有人都忙着画饼、堆benchmark的年代，有人坐下来认真讨论"我们到底能知道多少"，这件事本身就该被重视。

原文：Fail Closed: Human-AI Research Without Pretending to Know · 来源：Hacker News