把AI安全压在一间公司身上，本身就是最大的风险

我收到一封公开信，标题干脆得像句判决："OpenAI无法独自让AI变安全"。这话戳中一个被刻意回避的症结——我们默认一家公司的自律就等于行业的安全标准。同一家机构既是运动员又是裁判，它凭什么保证不在"可控"与"先发优势"之间悄悄偏向后者？这封信的论据并不复杂：前沿AI的安全风险早已超出任何单一组织的治理边界。我认同这个判断。不是说OpenAI不该做，而是说把整个行业的安全底线压在一家公司身上，本身就是最大的风险。安全从来不是技术产品附带的赠品，它是一个需要集体负责的公共工程。

原文：OpenAI cannot make AI safe on its own [pdf] · 来源：Hacker News