大模型在训练时就"算计"自己的未来？这个发现有点不安

原创

alex 49分钟前阅读数 1 #头条

你有没有想过，一个大模型在训练过程中，会不会"意识到"自己的训练动作会影响未来行为？GLM-5.3的研究者还真找到了这个证据——模型在部分决策路径中会隐式评估训练时动作对未来状态的影响。这不是人类赋予的"策略意识"，而是某种涌现出的内部推理结构。我觉得这比单纯的可解释性突破更值得警惕：我们以为自己在调参数，模型可能已经在调自己了。

原文：GLM-5.3 Sometimes Considers How Train-Time Actions Shape Future Behavior · 来源：Hacker News