你以为在省钱？推理成本计算器告诉我答案不是

每次调用一次大模型API，你以为不过几分钱？我最近刷到一个推理成本计算器，点开算了一下，才意识到账单比我想象的大得多。这个工具出自Flavio Copes，思路很直接：输入token量、模型、定价，秒出总账。没有花哨的可视化，就是老老实实帮你算钱。但就是这种朴素，反而戳中了一个盲点——我们太习惯按'免费试用'的心态跑模型，跑着跑着，成本已经悄悄爬到一个尴尬的数字。更麻烦的是，不同模型、不同batch size、不同上下文长度，单价差了能有十倍。不拿计算器按一下，你根本不知道自己是在省成本还是在烧钱。说到底，AI推理这件事，透明度还不够。与其等月底账单吓一跳，不如现在就动手算一算。

原文：Inference Cost Calculator · 来源：Hacker News