KV Cache压缩卷到这个程度，推理成本还能再砍一半？

DeepSeek悄悄扔了一份v4.1-Flash的技术报告，主题就一个：把KV Cache压缩逼到极限。说实话，这个方向这两年讨论得够多了，但每次真有人把压缩比往极端推的时候，我还是会停下来看一眼——因为这意味着推理时的显存占用和延迟可能再降一个台阶。报告里提到的方案，本质上是在"压缩掉什么"和"保留什么"之间重新划红线。问题在于，压缩越激进，模型输出质量会不会开始抖？报告没给太多benchmark细节，但从方向判断，这玩意儿要是真落地到生产环境，长上下文场景的成本结构会被彻底改写。

原文：(Tech Report) DeepSeek-v4.1-Flash: Pushing Limits of KV Cache Compression [pdf] · 来源：Hacker News