企业AI选模型,不该靠猜——有人造了个路由器

原创
alex 44分钟前 阅读数 1 #头条
你有没有遇到过这种情况:公司上了大模型,但没人说得清哪个任务该交给谁?简单翻译用GPT-4是不是浪费?复杂推理塞给轻量模型够不够看?Mahabodi的Enterprise System-1 Router试图解决这个问题——一个路由层,按查询类型自动分发给不同模型。思路不新,但做出来是另一回事。它没有停在学术论文阶段,而是给了一个可直接部署的方案。问题在于:当企业里每个团队都在自建prompt、自建pipeline时,一个统一路由器到底能覆盖多少场景?我的看法是,这类项目真正的价值不在于"选得多准",而在于它逼着组织第一次正视模型调度的成本问题。这件事值得跟进。

原文:Choices – Enterprise System-1 Router · 来源:Hacker News

版权声明

所有资源都来源于爬虫采集,如有侵权请联系我们,我们将立即删除