AI对齐的根本难题从来不是技术，而是权力

AI对齐已经做了三年，但我最常被问到的问题依然是：到底对齐给谁？用户？监管者？某个主流社会？还是所有利益相关者？这个问题听着像哲学洁癖，但它决定了谁有权定义"正确行为"，谁就被排除在"正确"之外。我的判断：所有试图绕过这个问题的技术方案都是在耍流氓。你不可能不回答"对谁对齐"就谈对齐怎么做。这不是工程细节，是整个AI治理架构的地基——地基选错，技术越精细，只会越精准地服务错误的答案。

原文：Aligned to Whom? · 来源：Hacker News