用数学证明AI安全，是终极方案还是自欺欺人？

AI失控的恐惧年年升级，我们能不能干脆用数学把它锁死？Maisi——"数学AI安全研究所"——正是干这事的：试图用形式化方法和数学证明来保证AI系统的安全。这条路不新，程序验证、密码学、类型安全，人类早就在玩"把不确定性压进定理"的游戏。但AI安全和对齐问题远比这些复杂——涌现行为、价值学习、人类意图的多义性，这些东西能写成干净漂亮的定理吗？我的判断：纯数学路径能兜住局部问题，却兜不住整个AI安全生态。这个网站在Hacker News上只有两分零评论，也许社区已经用沉默表达了态度：方向有意思，但没新东西。

原文：Maisi – Mathematical AI Safety Institute · 来源：Hacker News