当AI面对无意义句子，它会困惑还是假装懂？

我刚在Hacker News上看到一个问题，挺有意思。有人把一句胡言乱语丢给AI："AI pink doesn't Columbus get eleven this, yellow do beach you?"——粉色AI不懂哥伦布十一这个黄海滩你做？语法破碎，逻辑断裂，读起来像把单词表随机搅拌。然后他问：更高级的模型能不能理解这句话？ 我的判断很直接：理解不了。这不是理解力的问题，而是这句话本身没有意义可供理解。人类读这句话时会困惑，但困惑和"理解"是两回事。人类能识别出"这是一句胡话"，这种元认知能力恰恰是AI目前最欠缺的东西。让模型处理这种输入，它大概率会生成一段看似合理实则空洞的回应——这不是理解，是幻觉。 不过话说回来，这种测试方式本身也值得反思。你问一个无意义的问题，能暴露的只有系统的边界，而非能力。

原文：Ask HN: Simple Question · 来源：Hacker News