AI一本"幻觉"报告，差点让美军去登中国船

一份AI编造的"中国核组件"报告，差点就让美军踏上中国货轮。这不是科幻。据报道，美方因AI生成的虚假信息，曾计划对中国船只实施登船检查，最后关头被叫停。我想问：当大模型一本正经地胡说八道，后果谁来兜底？AI"幻觉"在实验室里不过是个技术术语，可一旦流入决策链，它就变成了可能引爆国际冲突的定时炸弹。我的判断很明确：现阶段把未经人工验证的AI输出直接送入安全或军事决策流程，本质上是用技术赌国家命运。技术可以迭代，代价却未必有回头路。

原文：AI hallucination of Chinese nuclear components almost led to US Military attack · 来源：Hacker News