跑偏的神经网络，差点把车开进沟里

你有没有想过，自动驾驶最可怕的敌人可能不是坏天气，而是一张图片？comma.ai 这篇复盘直接挑了一个刺人的问题：那些在训练集里跑得飞起、一上线就翻车的机器学习模型，到底是怎么把驾驶搞坏的？文章翻出了几个真实案例——分类器对特定纹理的过度自信、回归模型在极端输入下的静默失效、还有那些被人为"对抗"一下就乱来的感知模块。说白了，ML bug 跟传统软件 bug 完全不是一个物种：它不崩溃、不报错，只是安安静静地把车道线看成马路牙子，或者把前车判成不存在。我的判断很明确——任何把 ML 模型当确定性组件塞进驾驶回路的设计，迟早要为此买单。

原文：Bugs that broke driving: Machine Learning edition · 来源：Hacker News