模型从来不是瓶颈,你一直在修错东西
原创
你花几个月调模型参数,最后发现真正该修的是外面的那层壳?这条视频说了个让我有点不爽但不得不承认的观点:harness 比模型重要。我做 LLM 应用这几年,早期精力几乎全砸在选型和微调上,可真正上线之后才发现,数据怎么清洗、提示怎么组织、错误怎么兜底、延迟怎么压——这些脏活才是决定用户留不留下的关键。同一个模型,套不同框架,效果能差出天壤。说到底,模型是引擎,harness 是整车。引擎再猛,底盘散了照样翻车。接下来我会把更多时间放在工程侧,别再迷信"换个更大的模型就解决了"这种幻觉。
原文:Why the Harness Matters More Than the Model [video] · 来源:Hacker News
版权声明
所有资源都来源于爬虫采集,如有侵权请联系我们,我们将立即删除
itfan123





