对话第40轮：为何长会话暴露语音AI的真实成本与静默短板

基准测试方法：四十轮长会话的复现框架

语音AI的基准测试有一个奇怪的空洞。几乎所有公开测量都聚焦单轮延迟。你说一句，模型答一句，秒表记录毫秒数。这个数字是真实的，但它几乎决定不了什么，因为没有人会做一个用户只说一次话的产品。来源：BPPA

Bohita Presence团队在2026年8月31日发布了一份研究笔记，把同样的四十轮对话跑在Gemini Live、OpenAI Realtime API和自家语音栈上，想弄清三个问题：长会话的真实成本是多少、延迟会不会漂移、模型思考时到底在干什么。来源：BPPA

这份测试最值得看的地方是可复现性。完整代码托管在GitHub上，任何第三方都能重新跑一遍。来源：GitHub 每个被测栈拿到完全相同的脚本文本对话：第一轮植入一个代号，中间三十八轮常规轮次，第四十轮要求回忆那个代号，以检验会话是否还持有上下文。三家全部通过了记忆召回测试。来源：BPPA 一个会悄悄忘记上下文的便宜会话，并不是真正便宜的会话。

延迟边界的定义很具体。从客户端发出最后一段语音样本，到收到首个响应音频字节，这段时间被记为延迟。连接建立时间被排除在外，单独统计。来源：BPPA 厂商自有的端点检测决定每轮何时结束，所以每个数字里都包含该厂商对“你什么时候停止说话”的判断。这是有意的设计，因为它反映的是用户实际体验，这些数字不是time-to-first-token。来源：BPPA

有两项不可比的事情，作者自己说明了。OpenAI Realtime API接收24 kHz输入，其他两家是16 kHz，而tokenization与采样率相关，所以跨厂商的绝对token数没有意义，只能比较每条曲线的形状。来源：BPPA Bohita自家栈按占用时间计费，而不是按token。费用数字用的是厂商报告的token数乘以发布时的公开标价，作者承认这是估算，不是发票。来源：BPPA

量化发现：成本增长17倍与静默思考问题

先说最反直觉的那个。三家被测栈中，有两家在需要思考时会完全静默。模型不输出任何音频，不播放占位提示音，就那么安静地待着。来源：BPPA 这是整份研究里最值得在意的结果。对用户来说，一个没有声音的等待是难以容忍的，而它恰恰发生在产品最需要“我在想”信号的时候。

成本曲线更麻烦。某个供应商的单次对话成本在四十轮内增长了十七倍。来源：BPPA 这是长会话经济性的最大警示。十七倍的增长曲线形状，已经足够说明问题。

Bohita自己的栈在首音频延迟指标上是最慢的。来源：BPPA 这不是一个光彩的发现，但研究没有回避。另外，三家全部通过了第四十轮的记忆召回测试，这让人安心，因为一个会忘记上下文的廉价会话，根本算不上廉价。来源：BPPA

现有的公开基准几乎全部测量单轮延迟。作者说，那是真实数字，但决定不了任何事情，因为用户从来不会只说一次话。来源：BPPA

多源交叉验证与行业对比视角

十次交互以上的场景才是产品真正的断裂点。比如进入onboarding通话十分钟后，或者调试会话进行到一半，又或者一场支持对话拖得很长的时候。这些地方才是产品崩溃发生的地方，而公开数据几乎不存在。来源：BPPA 单轮延迟是真实数字，但几乎没产品在用。来源：BPPA

HN上有一个讨论帖（id=50261430），目前只有1点、0条评论。来源：HN 作为原始发布平台，这个帖子值得持续跟踪。研究笔记本身强调一切可复现（Everything here is reproducible），作者建议读者自行重跑数据以验证长会话成本曲线的真实性。来源：BPPA

可复现性设计是这份研究与其他营销式基准的关键区别。所有测量代码托管在GitHub上，第三方可以重跑。来源：GitHub 这份研究呈现的不是一个演示视频，也不是一张精心裁剪的图表。它是一份可以被检验的声明。

我的判断是，语音AI的产品团队应该开始测量自己的第四十轮，而不是第一轮。单轮数字好看，不代表会话中途不会断裂。静默问题、成本漂移、延迟曲线，这些东西只有在长会话里才会显形。如果一份基准不告诉你“模型思考时会不会说话”，那它对你的产品几乎没用。

原文：

Turn 40: benchmarking voice agents over a long session · 来源：Hacker News

作者：itfan123 值班编辑 · 发布于 2026年10月28日