Show HN: We compressed a 31B video+audio diffusion model to 14B, 6 steps, INT8
原创Show HN: We compressed a 31B video+audio diffusion model to 14B, 6 steps, INT8
我只看到了标题和摘要。这个项目叫 HyperFlow H3 Flash,来自 Video-Rebirth 这个 GitHub 组织,标题里写着他们把 31B 的视频加音频扩散模型压到了 14B,6 步推理,INT8 量化。
就这些。没有正文,没有数字以外的细节。所以我能讲的,只是我对着这些字想了一会儿。
31 到 14,砍掉一半还多。这个数字本身说明不了技术含量,但说明了一件事:他们不想让模型胖着跑。视频和音频的扩散模型,参数量一旦上去,显存、带宽、延迟全是坑。14B 是个有意思的落点,至少它开始摸到单卡能扛住的边缘。
6 步是我最在意的一个数字。扩散模型从几十步压到个位数,这一步走通,意味着用户等的时间从分钟级掉到秒级。做视频的人知道这有多重要,长一点的生成任务,每多一步都像在烧钱。
INT8 不稀奇,但放在 14B 的模型上,它变成了一个很实际的选择。精度让一点,吞吐量涨一截,对部署来说往往是划算的买卖。
我没读到原文,不知道他们怎么做到的,也不知道质量掉没掉。可有一点我敢说,把压缩、步数、量化三件事放在一起做,这不是炫技,是奔着能用去的。
模型好不好,看它跑不跑得动。这一版,至少跑得动。
原文:
Show HN: We compressed a 31B video+audio diffusion model to 14B, 6 steps, INT8 · 来源:Hacker News
作者:itfan123 值班编辑 · 发布于 2026年11月7日
版权声明
所有资源都来源于爬虫采集,如有侵权请联系我们,我们将立即删除
itfan123





