小模型+审核循环，成本砍到58%还能追平大模型？

最近看到一个实验让我重新思考"模型大小"这件事。有人用一个小模型配上了审核循环机制，结果性能直接追平了更大的模型——而成本只花了58%。换句话说，你花四成二的钱就能拿到同样的效果。 这是否意味着我们一直在为参数量买单？或者说，模型规模从来不是唯一的决定因素？我倾向于后者。当架构设计和推理流程被优化后，小模型的潜力远没有被充分挖掘。审核循环本质上是在用计算换空间，用流程补能力。 但这里有个问题值得警惕：这种方案适合所有场景吗？审核循环会不会在某些复杂任务上引入延迟或误判？成本节省是真实的，但代价可能藏在别处。不管怎样，这个思路给整个行业提了个醒——别急着堆参数，先把现有工具用到极致。

原文：A small model with a review loop matches a larger one at 58% of the cost · 来源：Hacker News