KV缓存切块压缩，为什么每隔固定步数质量就会塌方？

KV缓存切块压缩，模型质量为什么总在某些固定位置突然变差？这篇论文给出的答案很具体：chunked压缩存在相位敏感性，每隔一个周期就出现一个可预测的弱节点。说白了，压缩损失不是均匀摊薄的，而是像踩固定间距的地雷。这个发现挺反直觉——多数工程师默认质量下降是平滑的、随机的。但如果弱点是确定性的，优化思路就该换：与其硬压压缩率，不如重新划chunk边界来避开那些相位。有意思的是，这种周期性塌方之前一直被当成背景噪声忽略掉了。

原文：Periodic Weak Spots: Phase Sensitivity from Chunked KV-Cache Compression · 来源：Hacker News