LLM 花了多少钱,你说不清?这三个轴能治你
原创
LLM 账单一个月比一个月难看,但你说不清哪笔调用最贵。上个月我们团队光长上下文推理就烧掉小两万,可复盘时谁都甩不出具体归因。
Leanroute 团队写了篇博客,用三个成本波动轴把 LLM 支出讲明白了。我看过几十篇 FinOps 文章,大多数在喊"降本增效",这篇没有废话——它直接告诉你:模型选择、调用频次、上下文长度,钱漏在哪你自己数。
说句重话:2024 年大多数 LLM FinOps 内容都是给投资人看的 PPT 翻译,真正能指导工程团队做 trade-off 的框架,这篇算一个。三个轴听起来朴素,但你得先看见杠杆才能拨动它。
原文:FinOps for LLM – Leanroute Team wrote a blog · 来源:Hacker News
版权声明
所有资源都来源于爬虫采集,如有侵权请联系我们,我们将立即删除
itfan123


