当所有人都会训模型，你靠什么活下来？

训练成本在暴跌，开源权重满天飞，模型本身越来越不值钱——那LLM公司到底靠什么竞争？这篇文章给出了一个很锋利的判断：推理是最后一道护城河。 我的理解是，当模型权重可以下载、可以蒸馏、可以被开源社区复刻时，真正的稀缺资源变成了你部署它的工程能力——延迟、吞吐、成本效率，这些指标决定了你能不能把模型变成用户愿意付费的产品。这篇文章没有堆数据，但它抓住了一个容易被忽视的事实：大多数人把注意力放在谁训得更大、更强，却没人认真思考谁跑得更快、更省。这可能会成为下一轮淘汰赛的分水岭。

原文：Inference Is the Last LLM Moat · 来源：Hacker News