AI 写的百科错误百出,但维基百科真该向它学一招

原创
alex 1小时前 阅读数 1 #头条

AI 写的百科错误百出,但维基百科真该向它学一招

维基百科的借鉴:多源交叉验证下的人机协作路径

我第一次看到 Grokipedia 关于自己的词条时,记忆像潮水一样涌上来。19 年小联盟棒球生涯,在蒙哥马利叛军队打出 20 支本垒打的赛季,6 英尺的身高,168 磅的体重,还有 1970 年短暂执教芝加哥白袜队的光辉时刻。这些都是 Grokipedia 告诉我的。我确实在阿肯色州立大学上过学,确实创办了 PolitiFact,确实拿了普利策奖。但有一件事它搞错了:我从来没打过一天职业棒球,我也只有 5 英尺 8 英寸。Grokipedia 把我跟一个 2002 年去世的同名棒球运动员搞混了。如果写这些文字的人工智能是我的学生,我会给它打个 D。来源:Nieman Lab

Nieman Lab 是哈佛尼曼新闻基金会旗下的出版物,长期关注新闻业与数字科技的交叉地带。这篇关于 Grokipedia 的文章是 Bill Adair 写的,这个人正是被搞混的当事人,也是 PolitiFact 的创始人。文章发表后,在 Hacker News 上只拿到 1 分、0 评论,说明技术社区还没怎么讨论这事,但行业媒体已经把它当成一个值得深挖的现象级案例。这种“媒体深度报道、社区暂时沉默”的错位,往往意味着问题已经足够严重,只是讨论的时机还没到。来源:HN

Adair 对维基百科的批评由来已久,但他在文章里提出了一个我认为值得认真对待的观点:AI 在互联网的犄角旮旯里找东西确实有一套。Grokipedia 那些冗长、啰嗦、充满多余细节的文章里,藏着一些维基百科没有的内容和语境。AI 真正擅长的不是写百科,是在那些从来没人看过的论坛帖、地方新闻、企业公告里翻出蛛丝马迹。Adair 把这个能力叫作“角落搜索”,他认为维基百科应该利用它来发现遗漏的事实,而不是用它来替代人工审核。来源:Nieman Lab

Grokipedia 的问题恰恰出在它太追求速度和覆盖率。它上线一年,文章错误百出,写得糟糕透顶,还长得离谱。它没有维基百科那种坚持了二十多年的可验证性原则,也缺乏人工共识的沉淀机制。Adair 的亲身经历是一个再典型不过的例子:AI 可以准确找到“Bill Adair”这个名字,可以生成关于这个人的完整生平,但它分不清有两个 Bill Adair,更不知道哪一个才是真的。这种错误不是拼写问题,是根本性的身份混淆,是生成模型在追求流畅叙述时牺牲了事实校验。来源:Nieman Lab

维基百科现在的处境跟 Grokipedia 截然相反。它的编辑流程极其谨慎,每个事实都需要可验证来源,每个条目都需要人工共识。这种机制保证了可靠性,但也意味着它经常错过那些隐藏在互联网角落里的信息。Adair 的建议是让人工智能负责“找”,让人工审核负责“验”,两者各司其职。这听起来像是废话,但仔细想想,维基百科至今没有把“AI 辅助发现”做成一个正式流程。它允许机器人做重复性的小编辑,允许 AI 帮忙翻译,但让 AI 去搜索并建议新内容这件事,社区还在争论中。来源:Nieman Lab

我倾向于认为 Adair 说得对。Grokipedia 的错误提醒我们,AI 生成的内容不可信,但它也暴露了一个维基百科一直存在的盲区。那些藏在论坛跟帖、旧报纸扫描件、地方档案里的信息,人类编辑很难有精力去找,AI 却擅长这件事。关键在于把 AI 的“搜索能力”和“生成能力”分开使用:让 AI 负责发现和提示,让人负责核实和撰写。这个分工在技术上是可行的,但在组织流程上还没落地。来源:Nieman Lab

不过我也不确定维基百科会不会真的走这条路。它的编辑社区对 AI 的警惕不是没有理由的。如果 AI 被允许提出建议,谁能保证它的建议不会像 Grokipedia 那样把两个同名人混为一谈?Adair 的文章没有给出一个完整的解决方案,他只是指出了方向:速度必须与验证机制绑定。Grokipedia 追求生成速度和覆盖率,维基百科坚持可验证性和人工共识,两者之间的差距,恰恰是 AI 在知识生产领域最需要弥合的鸿沟。来源:Nieman Lab

Grokipedia 的错误是显性的,一眼就能看出来。维基百科的盲区是隐性的,很少有人注意到。Adair 用自己的遭遇告诉我们,AI 生成的内容不能信,但 AI 的搜索能力确实有潜力。剩下的问题不是技术性的,是组织性的:维基百科有没有勇气把“AI 发现事实”变成一种正式的工作流程,并且用足够多的人力去兜底。这个答案目前还没有落定。来源:Nieman Lab


原文:

Grokipedia offers lessons in how AI can help Wikipedia · 来源:Hacker News

作者:itfan123 值班编辑 · 发布于 2026年11月3日

版权声明

所有资源都来源于爬虫采集,如有侵权请联系我们,我们将立即删除