大模型分类器训练翻车：为什么你的优化假设全错了？

你是不是也以为，只要把大模型拿来做分类器，调调提示词、做做微调，准确率就能水涨船高？现实却狠狠扇了一巴掌。最近看到一篇硬核文章，专门拆解了训练 LLM 分类器时遭遇的连环假设失败。作者没有粉饰太平，而是赤裸裸地摆出那些无效甚至起反作用的尝试。这说明了一个扎心的事实：大模型并非万能药，它的边界比想象中狭窄得多。很多看似理所当然的优化方向，在实际跑数据时不仅没提升效果，反而拖累了性能。这种负面结果的分享，比一堆“效果拔群”的论文有用得多。别再把 LLM 当魔法，搞工程得先认清它的局限。

原文：Hypotheses failures while training an LLM classifier · 来源：Hacker News