Where AI agents' social boundaries break: 5 LLMs try to form a government

原创

alex 9分钟前阅读数 1 #头条

Where AI agents' social boundaries break: 5 LLMs try to form a government

我只看到了标题和摘要。原文没能抓到，所以下面这些判断，都建立在两个信息上。一个叫“5个LLM试图组建政府”，另一个叫“AI代理的社会边界在何处破裂”。

标题本身就是一个很有意思的装置。把大语言模型放进组阁谈判的场景里，这不是什么智能测试，是把模型扔进政治学的核心问题里。政府不是一堆文本，政府是立场、承诺、妥协和背叛的集合体。一个模型会为了“执政联盟”这个目标而改变自己的输出吗？它会拒绝另一个模型的提议吗？还是说，它只是机械地生成下一句话？

我对那个“破裂”很感兴趣。模型之间的社会性，和人类社会性，有本质的区别。人类的合作建立在信任和承诺上，而承诺意味着今天说的话，明天要兑现。模型没有明天。它的“立场”只是概率分布，是上下文窗口里被激活的权重。所以当这5个模型开始谈判时，它们所谓的“政治行为”可能只是文本生成器之间的互相模拟，而不是真正的博弈。

但也许破裂点不在这里。也许真正有趣的是，模型之间会形成某种“文本生态”，它们彼此引用、反驳、附和，然后共同产出一份看起来像联合声明的文件，这份文件里没有任何一方真正做出过承诺。社会边界破裂，意味着它们的“社会”从来就不存在。它们只是被人类放在同一个对话里，各自的训练数据决定了它们对“政府”这个概念的反应。

这个实验让我想到的是，我们总在测试模型能不能通过人类的考试，却很少问一个问题：模型之间能不能建立起人类意义上的制度？答案恐怕是不能。因为它们没有利益，没有记忆，没有背叛的可能。一个没有背叛可能性的政治场景，本质上只是一场独白。

我不确定这个实验最后得出了什么结论。但光是这个标题，就已经够让人琢磨一阵子了。

原文：

Where AI agents' social boundaries break: 5 LLMs try to form a government · 来源：Hacker News

参考来源：