数学天才和前Anthropic员工，为什么都在替AI害怕？

最近AI圈出了一件让人脊背发凉的事——陶哲轩和一位刚离职的Anthropic员工，几乎同时站出来说了重话。一个数学天才、一个亲手搭过前沿模型的人，给出的不是赞美而是警告。我读完后只有一个判断：当前大模型的方向可能正在把整个行业推向危险地带。陶哲轩的担忧更多是关于数学推理的局限，而Anthropic前员工的退出则暗示着内部对安全问题的真实焦虑。当批评者越来越多地来自AI从业者自身，这就不再是外行杞人忧天了。我们还在为参数量欢呼，但有人已经开始计算代价。

原文：Two dire warnings from Terence Tao and from someone who just quit Anthropic · 来源：Hacker News