抛弃自回归，Celeris用扩散模型造最快LLM

当所有人都在卷自回归模型的token生成速度时，Celeris抛出了一个反问：为什么LLM必须一个字一个字往外蹦？他们把赌注压在了扩散模型上。自回归天然串行——第N个token得等第N-1个出来才能算。扩散模型可以同时去噪所有位置，理论上速度能质变。这不是概念验证，是工程落地。问题是，扩散模型做语言生成的质量能不能跟上？Celeris显然认为可以，而且足够快能赢。我觉得这是个值得跟踪的方向，不管最终结果如何。

原文：Building the fastest LLMs: why we're starting with diffusion · 来源：Hacker News