法国实验室 Kyutai 推出 Moshi:延迟仅 200ms 的开源实时语音 AI
法国非营利 AI 实验室 Kyutai 展出实时语音助手 Moshi 并宣布开源。它仅由 8 人团队耗时半年研发,端到端延迟低至 200 毫秒,支持 70 种情绪,还能在笔记本本地边听边说。
Moshi 是法国非营利 AI 实验室 Kyutai 开发的实时语音 AI 系统,它最大的特点是能像真人一样边听边说,而且延迟只有 200 毫秒左右,代码和框架还会以尽量宽松的许可证开源给所有人。
这套系统由 8 位科学家花了半年时间从零打造。它摆脱了传统语音助手先转文字、再调用大语言模型、最后合成声音的繁琐链路,端到端延迟低至 200 毫秒,几乎做到了你一开口它就能实时接话。
它能做什么
Moshi 最出色的能力是双音频流处理,也就是能同时听和说。在真实的人际交谈里,互相打断、重叠说话是常态,传统的语音模型一旦被打断就会卡顿,而 Moshi 可以随时应对插话。
它不仅能发出声音,还具备多模态能力,在说话的同时可以在屏幕上同步输出文本。整个模型自带丰富的口音储备,支持 70 种不同的情绪和说话风格,甚至还专门请了专业配音演员合作,让语气里的细微变化更接近真人。
在训练上,团队没有依赖普通的文本数据,而是直接使用标注过的音频数据进行端到端学习,配合用语音合成技术生成的 10 万场高拟真合成对话进行精调,让它直接理解人类发音的语气和语调。
怎么跑起来
除了低延迟,Moshi 的另一个亮点是支持完全离线运行。它适配了 CPU、CUDA 和 Metal 后端,可以直接塞进笔记本电脑等消费级设备上跑,不需要连网传输任何敏感数据,彻底保障了私密性。
Kyutai 宣布将免费公开 Moshi 的代码和框架,并承诺采用极度宽松的开源许可。为了防止语音滥用,团队也在同步研发配套的音频水印、AI 生成识别和签名追踪技术。
官方计划根据用户和开发者的反馈继续迭代,并在近期向公众和开源社区开放体验与下载。
为什么重要
我们认为,Moshi 最聪明的地方在于把原本专属于科技巨头的闭源语音实时交互体验,直接拉到了开源世界和本地硬件上。如果你是开发者,或者想在客服、社交应用里做无网络依赖的私有化语音助理,Moshi 几乎是目前最值得关注的开源方案。
比起 OpenAI 演示却迟迟不开放的类似语音模式,Kyutai 靠 8 人团队半年拿出的成果证明了语音端到端模型不必耗费巨资闭门造车。不过对于个人用户来说,本地部署依然需要一定算力配置,且模型在复杂长上下文任务上的智能程度,还需要等社区拿到代码后进一步检验。
来源 (2)
- youtube.com(在新标签页打开)原文youtube.com
- greenbot.com(在新标签页打开)报道greenbot.com