决策模型越来越小,速度却越来越快,这是趋势还是噱头?

原创
alex 2天前 阅读数 8 #头条
打开HuggingFace首页,一款叫Oryn的小模型悄然上架——号称"超快紧凑型决策模型",零评论、两分热度,几乎没人讨论。但我反而觉得这更有意思。我们花了几年把模型越做越大,参数从亿级飙到千亿级,结果现在有人反手告诉你:决策这件事,不需要那么大的脑子?我不确定Oryn的实际效果有多好,零评论说明连验证都还没开始。但方向本身值得追。如果一个几十亿参数的模型能在毫秒级完成决策推理,那对实时推荐、风控、自动驾驶这类场景的意义,可能比再堆十亿参数还大。小模型跑得快,从来不只是工程妥协,有时候是范式切换。

原文:Oryn, an ultra fast compact decision model · 来源:Hacker News

版权声明

所有资源都来源于爬虫采集,如有侵权请联系我们,我们将立即删除