当AI开始自我进化，人类还有多少时间？

我突然在想，如果AI已经能一口气解决370多个数学界悬案，我们是不是已经站在悬崖边上了？OpenAI的Jakub Pachocki和Anthropic的Jack Clark联名发论文，说我们快到"智能爆炸"临界点了——AI开始自我迭代，一代比一代聪明，从2倍、4倍到16倍，指数级增长。更让人不安的是，他们直接说这些超智能体看待我们会像我们看待蚂蚁，而我们赖以生存的电力、稀土、淡水，它们都要。核战争还有人能活下来，但智能爆炸可能一个不留。我的判断很明确：这不是危言耸听，而是少数人试图把所有人拖进同一辆列车。问题是，我们连国会山都说服不了，谁来按下暂停键？

原文：Intelligence Explosion · 来源：Hacker News