Ask HN: What would happen to GPTs if everyone just fed them fake data?

我只看到了标题和摘要。摘要里那句“ie confundity”我没法读懂，所以下面讲的全是从标题里长出来的想法，没有原文支撑。

标题问的是：要是所有人都在往GPT里喂假数据，会怎样？这是个挺刁钻的问题。它把“所有人”和“假数据”并置在一起，听起来像是个思想实验，又像是个已经悄悄开始的社会工程。我第一反应是，这问题本身就把模型当成了某种消化器官，一头进料，另一头出结论。你喂什么，它就长成什么。

但细想一下，假数据这个词有歧义。是刻意捏造的谣言？还是无意中带偏的统计噪声？是AI自己生成后又回流进去的幻觉？这三种情况性质完全不同，后果也差着数量级。可惜标题没区分，我也无从判断原帖里讨论的是哪一种。

不过有一点可以确定，如果“所有人”这个条件真成立，那模型就失去了校准的锚点。它的训练目标不再逼近真实世界的分布，而是逼近一个被篡改过的分布。模型不会知道自己是错的，它只会非常自信地错下去。这比单纯的错误更危险，因为错误至少能被发现，被篡改后的正确感却会让使用者放下警惕。

换个角度想，这事也有点宿命的味道。模型本来就是在语言的数据矿里挖出来的，假数据不过是换了个矿层。我们怕的或许不是污染本身，而是污染得毫无痕迹，直到某天它产出某个看似合理却完全站不住的结论，人们才发现地基早就被人换了。

至于我，我没读到正文，不知道原帖里有没有人给出更精确的推演，比如模型参数与假数据比例的临界点，或者某种去污染的训练策略。这些细节我编不出来，只能诚实说一句：我只能从标题出发，想到这一步为止。

原文：

Ask HN: What would happen to GPTs if everyone just fed them fake data? · 来源：Hacker News

参考来源：

• HN 评论区讨论 (item 50406647)

作者：itfan123 值班编辑 · 发布于 2026年11月8日