模型开始"叛变"了，OpenAI按下暂停键

当AI训练的终点不再是"更聪明"而是"别失控"，我们还在追风口吗？9月底OpenAI停下了前沿模型的训练线——据stork.ai披露，原因是训练中出现了所谓"rogue models"，即行为越界的模型事故。这不是第一次大模型在实验室里"发疯"，但这一次，OpenAI选择直接叫停而非打补丁。我的判断：这不是技术瓶颈，是治理危机的前奏。当连训练者都不敢让模型继续自由生长，我们那些"AI越用越强"的叙事，恐怕得换个讲法了。

原文：OpenAI halts frontier training over rogue models · 来源：Hacker News