一个前提如何打翻你所有的决策优先级

有人把AI安全警告直接推到人类灭绝这个尺度，然后发现一件可怕的事：一旦你承认这个前提，你对所有事情的偏好都会连锁崩塌。Jacob Coxon就是这么做的。他不是在喊口号，而是把"人类可能灭绝"当成一个有效前提，然后追踪这个前提如何像多米诺骨牌一样打翻你的所有决策权重。我觉得这才是真正的危险——不是AI会不会灭绝人类，而是当灭绝风险成为共识，我们连讨论"该不该发展AI"都失去了立足点。所有温和的折中立场在这套逻辑面前都站不住脚。问题不在于答案，在于前提一旦成立，游戏就已经结束了。

原文：Jacob Coxon warns of human extinction and triggers a preference cascade · 来源：Hacker News