AI自己给自己提智力上限，人类还拦得住吗

你注意到没有，前沿AI的研究焦点正在微妙偏移——从"AI能做什么"转向"AI能多快超越自己"。CASP这份关于智能爆炸的报告，把问题摆得很直：当模型具备自主改进自身架构的能力，人类还能设定安全阈值吗？我的判断是，这个问题已经没有答案，只有时间差。递归自我提升的每一个迭代周期都在压缩我们的反应窗口，政策制定与模型训练之间那道鸿沟，远没有想象中那么容易弥合。与其争论AI该不该被限制，不如先承认——我们连它跑到哪了，都未必知道。

原文：Understanding Frontier Artificial Intelligence · 来源：Hacker News