高速数据管道里，谁还需要"慢思考"模型？

你有没有想过，一条每天处理数百万条记录的数据管道里，实体消歧这件事能不能不靠人工规则、也不靠慢吞吞的大模型？Southbridge 的 Jevon 团队给出了一个激进答案：把系统一模型——那种反应快、消耗低、近乎直觉判断的小模型——直接塞进高吞吐管道。核心判断很简单：实体解析在大多数场景下不是复杂推理问题，而是模式匹配问题。你需要的不是更聪明的模型，而是更快跑完的模型。当然，这意味着你放弃了一些边界情况的处理能力，但换来的是管道成本下降一个数量级、延迟从分钟降到毫秒。对于已经受困于传统规则引擎和昂贵大模型之间的团队来说，这个方向值得认真对待。

原文：Using system-one models inside high-throughput data pipelines · 来源：Hacker News