一个用C写的模型路由器，敢砍AI账单三成

AI Agent的成本正在失控——你每跑一个agent，背后可能在同时调用好几个大模型，账单像水龙头一样哗哗流。有个叫Recursant的项目跳出来了，声称是个"agent-aware"的模型路由器，能根据任务类型智能调度请求到不同的推理后端，号称砍掉30%的agent开销。用C写的，主打快。能接自己的vLLM，也能接OpenRouter，目前还在打磨阶段，作者自己也承认边缘粗糙，但已经能跑跨私有/公有推理的路由。说实话，30%这个数字在没有benchmark的情况下很难验证，但方向是对的——Agent时代的成本瓶颈不在模型本身，而在调度和路由这一层。能在这层省出来的钱，才是真金白银。

原文：Show HN: Recursant, the agent-aware model router built for hybrid workloads · 来源：Hacker News