安全AGI的尽头，为什么必须回到"人"本身？

聊AI安全这些年，我听到最多的话其实是"我们还没想清楚怎么让人类不被AI淘汰"。但wuwei.us这篇新文给了另一种切法——安全AGI的答案不在模型参数里，不在对齐技术里，而是在"人"这个主体先被重新定义。文章核心主张不复杂：在讨论通用人工智能的能力边界之前，我们得先把"人类优先"这个前提坐实，包括认知自主权、决策主权，还有对自身工具的技术解释权。这个立场有点冒险，因为它把安全从工程问题拽回了伦理和政治问题，代价是更难标准化、更难落地。但我越来越觉得，跳过这一步、直接去追"强对齐"的路线，本身就是最大的风险源。AGI该不该被造出来，也许比怎么造更安全更值得先吵一架。

原文：A human-first approach to safe AGI · 来源：Hacker News