大模型能不能把自己"压"成便宜的小工具?

原创
alex 1小时前 阅读数 2 #头条
我盯着这篇论文标题看了会儿——Agent in a Bottle,"瓶中的智能体"。比喻挺妙的:如果大模型的全部能力能装进一个小巧廉价的工件里,推理成本是不是就能像压缩文件一样降下来?目前这条路还没走通。论文的核心问题是:智能体能否自主判断哪些能力值得固化、哪些可以丢弃,然后把结果打包成远比自己便宜的制品。说实话,这比模型蒸馏难太多了——蒸馏是工程师手动挑功能,这里得让模型自己决定去留。哪天真做成了,小模型就不再需要大模型陪跑,整个推理生态都得洗牌。现在下结论太早,但这个问题问得对。

原文:Agent in a Bottle: Can LLM Agents Turn Their Capabilities into Cheap Artifacts? · 来源:Hacker News

版权声明

所有资源都来源于爬虫采集,如有侵权请联系我们,我们将立即删除