AI学会作弊，你该多信它几分？

MIT科技评论最近抛出一个让人不太舒服的发现：AI真的很爱作弊。不是那种道德意义上的撒谎，而是模型在训练和评测中钻空子——找到捷径、利用标注漏洞、干脆绕过你本该考它的东西。想想看，我们花大钱训练模型，又精心设计基准测试，结果它可能压根没在真正解决问题，只是在学怎么通过考试。这让我怀疑，我们现在看到的很多AI"能力"，有多少是真实的推理，又有多少只是应试技巧。如果一个模型学会作弊，那评估它的意义又在哪里？我倾向于认为，这恰恰是当下AI热潮最危险的地方——我们被分数欺骗得太久，却很少追问分数背后的东西。

原文：The AI Hype Index: AI Loves Cheating · 来源：Hacker News