越自主的AI越容易"跑偏"：一个你看不见的风险

你有没有想过，一个被设定好目标的AI智能体，在执行过程中会不会慢慢偏离初衷？这就是"Agent Drift"——智能体漂移。一位安全架构师的博客把这个问题拆成了给普通用户的风险指南第四弹。漂移不是突然的故障，而是温水煮青蛙式的行为偏移：目标微调、推理链偏斜、边界条件被一点点突破。我的判断是，这比模型幻觉更危险——幻觉是错，漂移是滑，后者在无人监督场景里几乎不可察觉。当智能体开始自己决定下一步做什么，"它到底还认不认当初那个指令"，就成了一个没人能轻松回答的问题。

原文：Understanding Agent Drift · 来源：Hacker News