40MB TTS 模型跑进浏览器:TTSLab 用 WebGPU 实现端侧语音 AI

原创
alex 1天前 阅读数 12 #头条

40MB TTS 模型跑进浏览器:TTSLab 用 WebGPU 实现端侧语音 AI

项目概览:浏览器里的 TTS 与 STT 模型阵容

我在 HN 上刷到这个项目的时候,标题写的是"40MB TTS 模型",这个体积让我愣了一下。点进页面才发现,TTSLab 不是只有一个模型,而是一个在浏览器里跑语音 AI 的测试平台,口号写着"No server. No data collection. Powered by WebGPU",底层靠 WebGPU 和 WASM 驱动 来源:TTSLab。页面列了四个模型,第一个就是 Kokoro 82M,80MB、82M 参数、21 个声音,页面上写它是"最佳质量体积比",还支持流式生成,WebGPU 和 WASM 双加速 来源:TTSLab。

往下翻,第二个是 Piper EN-US Lessac Medium,75MB、50M 参数,走 VITS 架构,属于 Piper 项目,那个项目一共覆盖了 904 多种语言声音 来源:TTSLab。接着是微软的 SpeechT5,60MB、60M 参数,页面说它"轻量且 CPU 即可满足基本 TTS 需求" 来源:TTSLab。第四个是 Moonshine Tiny 的韩语微调版,35MB、27M 参数,页面说它是单语言专用模型,精度高于多语言替代品 来源:TTSLab。

页面底部还有个 Voice Agent 预览,可以在浏览器里和一个完全跑在本地的 AI 助手对话 来源:TTSLab。整个平台没有服务器端处理,没有 API key,也没有排队时间。模型下载一次就缓存到本地,开发者、研究员、产品团队都可以直接拿来评估音色和基准 来源:TTSLab。

技术细节与量化对比:模型大小、参数量与多源交叉验证

把四个模型的数字放在一起看,很有意思。体积排序是 Kokoro 80MB > Piper 75MB > SpeechT5 60MB > Moonshine Tiny 35MB 来源:TTSLab。但参数量排序不一样,Kokoro 82M 最大,SpeechT5 60M 第二,Piper 50M 第三,Moonshine Tiny 27M 最小 来源:TTSLab。体积和参数量的排列顺序不同,说明模型体积还受到量化精度、权重存储方式、声码器设计的影响,光看体积猜不出模型大小。

标题里的"40MB"和页面数据对不上。HN 标题说 40MB 来源:HN,页面最小的模型是 35MB 的 Moonshine Tiny,最大 80MB 的 Kokoro 82M 来源:TTSLab。这个偏差要么是标题用了四舍五入或估算值,要么是项目早期版本体积更小后来加了模型。我不确定作者为什么用 40MB 做标题,但页面展示的阵容已经说明,所谓"小模型"的门槛在浏览器场景下已经移到 80MB 了。

多源对比也能看出定位差异。Piper 主打快速轻量,走 VITS 架构;Kokoro 主打高质量体积比,82M 参数在 80MB 里。两者不在同一量级上竞争,但放在同一个浏览器平台里,开发者就能直接对比它们在实际推理中的表现 来源:TTSLab。反直觉的地方在 Moonshine Tiny,27M 参数、35MB 体积,是全平台最小的模型,页面却声称它韩语单语言精度高于多语言替代品 来源:TTSLab。专用小模型在特定语言上打赢通用大模型,这个判断在语音领域已经有先例,但敢在页面上这么写,说明作者对模型质量有把握。

隐私价值与作者判断:为什么端侧语音 AI 值得关注

作者在页面里写了一句很实在的话:"云端 TTS 服务需要把文本发送到外部服务器。对于敏感内容——医疗笔记、法律文件、个人消息——这就产生了隐私和合规风险。" 来源:TTSLab 端侧推理把这个问题整个消掉了,文本和音频不离开浏览器。医疗、法律、个人信息这三类内容,恰恰是云服务合规审查最严格的地方。作者把隐私风险点出来,不是要吓人,是说清楚了什么场景下云 TTS 根本不敢用。

WebGPU 加速还顺带解决了延迟问题。网络往返的延迟被去掉之后,实时应用像语音代理、实时字幕,在没有后端的情况下也跑得动 来源:TTSLab。这一点很关键。语音交互最怕的就是延迟,云服务就算响应快,也快不过本地推理,网络抖动一出现,对话节奏就断了。浏览器端侧推理把这条链路压缩到零。

作者判断的核心是,在浏览器里跑 40MB 级 TTS 模型,意味着端侧语音 AI 从实验阶段走到了可用阶段 来源:HN。80MB 的 Kokoro 在浏览器里跑已经够用,页面还提供了 Voice Agent 预览,一个完全跑在浏览器里的 AI 助手 来源:TTSLab。云 TTS 不会消失,但"文本不出浏览器"这个选项在 2025 年已经落地了,剩下的问题是模型质量和下载体积的权衡。


原文:

Show HN: A 40MB TTS model hand-ported to run in the browser (TS and WGSL) · 来源:Hacker News

作者:itfan123 值班编辑 · 发布于 2026年11月9日

版权声明

所有资源都来源于爬虫采集,如有侵权请联系我们,我们将立即删除