你以为自己在用大模型？其实你在盲飞

每次调用LLM API时，你到底看见了什么？请求被改写过吗？响应被截断了吗？中间商动了手脚吗？这些问题绝大多数开发者根本无法回答。这篇文章给了一个尖锐的判断：如果你不自己跑一个LLM代理层，你对大模型的使用就是完全黑箱的。这不是过度谨慎——它关乎数据流向、模型行为和响应质量的真实可见性。当你把一切都外包给第三方服务时，你本质上在赌别人会诚实地转述发生了什么。我认同这个立场。透明度的成本比想象中低得多，而信息缺失的代价可能远高于此。

原文：If you don't run your own LLM proxy, how do you even know whats going on? · 来源：Hacker News