当RAND开始讨论AI灭绝风险，真正该慌的不是未来

AI灭绝风险，这个曾被科幻作家垄断的话题，如今有了严肃研究机构的背书。RAND这份报告把"超级智能可能摧毁人类"从哲学猜想拉进了风险评估的框架——有概率、有场景、有缓解措施。但我读完后第一反应不是震惊，而是：为什么直到2025年，这类研究才进入主流智库的议程？ 报告结构严谨，但核心假设仍绕不开"AGI会不可控"这个前提。真正该追问的是：这些风险估算有多少依赖模型假设，有多少来自实证数据？如果连风险本身都无法量化，所谓缓解方案不过是另一种形式的叙事。 我不是在否认风险存在。我只是认为，当一份报告开始用"灭绝"这个词时，它需要更多的谦逊——关于未知，也关于我们能做什么。

原文：The Extinction Risk from Artificial IntelligencE [pdf] · 来源：Hacker News