大模型调工具总出错？这个项目把结构化生成玩明白了

你有没有遇到过这种情况——大模型明明能对话，一让它调API就吐出乱七八糟的JSON？我最近翻到MLC团队的XGrammar-2，有点被震到了。这玩意儿不靠后处理正则去救JSON格式，而是直接把结构化约束注入解码流程，让模型在生成每一步时就走不偏。对做Agent的人而言，这意味着什么？少写几层防御性代码，多留点精力想业务逻辑。它号称兼顾速度和自定义程度，支持复杂schema嵌套。说实话，工具调用这条赛道卷成这样，能安静做底层效率优化的团队不多见了。如果你正在搭Agent框架，值得花十分钟看看它的方案。

原文：XGrammar-2: Fast, Customizable Structured Generation for Tool Calling and Agents · 来源：Hacker News