开源模型硬啃语音转录，CUDA一推真能跑？

我最近看到一个挺有意思的项目——把Gemma 2搬上Linux，用CUDA加速做语音转录。没有花哨的UI，没有服务器集群，纯粹是代码加GPU。说实话，看到"Embedding Gemma 2"这个组合就有种混搭感：原本做文本嵌入的模型，现在被拉去做音频转录？但转念一想，Gemma 2的多模态能力本来就覆盖这块。真正让我好奇的是速度——转录这件事，延迟就是命门。项目目前只有1个点赞、零评论，说明社区还没真正注意到它。但如果真能在消费级显卡上把延迟压到可接受范围，意义就不止是一个GitHub仓库那么简单了。

原文：Embeddinggemma-2 Transcribe with CUDA · 来源：Hacker News