OpenAI开始给AI「跑偏」立规矩了

AI模型「跑偏」了怎么办？以前靠内部自觉，现在OpenAI直接出了套正式的上报框架——把模型偏离人类意图的行为，变成一个有流程、有标准、可追溯的制度化事件。我做AI行业观察几年了，说实话，这一步迈得早了点。不是批评，而是提醒：框架再漂亮，没有独立的第三方审核机制，本质上还是自己给自己发体检报告。AI治理的难点从来不在技术定义，而在权力分配——谁有资格判定模型「不对了」，这件事框架里大概没写。

原文：Model Misalignment Reporting Framework · 来源：Hacker News