少调一次工具省一截token，本地索引这笔账怎么算

我在读一篇关于本地索引的新文时，一个问题冒出来了：当LLM反复调用工具、不停烧token时，我们是不是在用暴力换便利？文章的思路很直接——先在本地把数据建好索引，让模型直接查，而不是每次都发起一轮工具请求。说白了，这就是用预处理成本换运行时开销。我倾向于认为这个方向值得认真试。当agent的工具链越拉越长、任务越来越复杂，token消耗会先于模型能力成为真正的瓶颈。本地索引不是银弹，但把重复查询的成本从"每次调用"压成"一次索引"，这笔账怎么算都划算。

原文：Local Indexing to reduce tool calling and token usage · 来源：Hacker News