群体智能的边界在哪里？AI规模化的下一个拐点

Toby Ord这篇Swarm Scaling让我停下来想了很久——当单个模型参数量逼近物理极限，我们是不是该把目光转向"群体"？他把swarm scaling摆上台面：不是把一只蜜蜂养得更大，而是让一百万只蜜蜂协同。这思路挺激进的。但我有个明确判断：群体规模化的真正瓶颈从来不是算力，而是共识机制。当数十个智能体同时决策，谁来防止意见分歧演变成系统性混乱？这个问题比参数数量级更难。如果连对齐问题都解决不了，堆再多智能体也只是把风险放大了N倍。 ===BODY_END===

原文：Swarm Scaling · 来源：Hacker News