微调小模型：门槛看着低，坑却深得离谱

你有没有算过，微调一个七参数小模型到底能省多少成本？HN上有人把这个问题扔出来，评论区居然安静得可怕——没人给答案，或者说，真没几个人跑出过可复现的结果。我见过太多团队抱着"小模型更便宜、更好部署"的幻想，砸一周GPU时间，最后发现prompt engineering加RAG已经能打八折。小模型微调不是万灵药，它是一把需要精确握持的刀：任务够窄、数据够干净、基座选型够准，三条缺一条就是烧钱。我的判断很明确——除非你的场景高度垂直且对延迟极端敏感，否则微调小模型的投入产出比远不如大家想的那么好。这条路看着门槛低，实际上深坑密布。

原文：Ask HN: When is fine-tuning a small LLM worth it? · 来源：Hacker News