Mistral 发布 Voxtral TTS:4B 参数语音模型,延迟仅 70 毫秒
Mistral AI 发布首个文本转语音模型 Voxtral TTS。该模型参数量为 4B,支持英语、法语等 9 种语言,典型输入延迟仅 70ms,最快仅需 3 秒音频即可完成声音克隆。模型权重已开源,API 定价为每千字符 0.016 美元。
Voxtral TTS 是 Mistral AI 推出的 4B 参数文本转语音模型,专门用来给低延迟实时语音助手配一副逼真、能带情绪的嗓子。
它最亮眼的地方在于轻量和快速:模型只有 4B 参数,典型输入下的端到端生成延迟仅有 70 毫秒,而且只要一段 3 秒的参考音频,就能完成高质量的声音克隆。
它能做什么
Voxtral TTS 原生支持 9 种语言,包括英语、法语、德语、西班牙语、荷兰语、葡萄牙语、意大利语、印地语和阿拉伯语,并且能较好地保留各种地方口音。
在声音表达上,它不只是机械地念稿子。模型能理解文字里的中性、开心、讽刺等上下文情绪,连呼吸停顿、语速节奏甚至口误这种细微的人性化特征都能抓出来。
更实用的是零样本跨语言声音克隆。你喂给它一段法语母语者的 3 秒语音,让它去念英文,它就能生成带着地道法国口音的自然英语,非常适合搭建级联语音翻译流。
单次原生生成长度最长为 2 分钟,官方 API 则通过分片交织处理来支持任意时长的文本合成。
技术底子与性能表现
Voxtral TTS 并不是单一大模型硬怼,它是一个结合了自回归与流匹配(Flow Matching)的复合架构,基于 Ministral 3B 打造。
整套系统由三部分拼成:3.4B 参数的 Transformer 解码器骨干、390M 参数的流匹配声学 Transformer,以及一个 300M 参数的自研神经音频编解码器。
在 10 秒语音配 500 个字符的典型测试下,模型延迟约为 70 毫秒,实时率达到了 9.7 倍。这意味着它生成 1 秒音频实际只需 0.1 秒左右,完全能接进高频对话系统。
在人工盲测中,原生地道发音者对它与 ElevenLabs Flash v2.5 进行了横向对比。结果显示 Voxtral TTS 在自然度、口音还原和音色相似度上都更有优势,整体生成质量则基本看齐了 ElevenLabs v3。
怎么上手和开放程度
如果你想在自己的机器上折腾,Mistral 已经在 Hugging Face 上放出了模型权重,包含几个现成的参考音色,许可证采用的是 CC BY-NC 4.0 非商业授权。
不想自己搭环境的话,可以直接去 Mistral Studio 的 Playground 或者 Le Chat 里试玩,可以在线录音测试克隆效果。
开发者如果想直接接入业务,官方 API 已经开放,调用价格是每 1000 个字符 0.016 美元。
为什么重要
做实时语音 Agent 的团队非常值得立刻试一试。过去做拟人语音,要么选 ElevenLabs 这类闭源高价商业 API,成本和延迟很难压下来;要么用开源小模型,语气和跨语言能力往往很机械。
Voxtral TTS 把高质量拟人、跨语言克隆和 70 毫秒低延迟打包放进了一个 4B 模型里。这让自建低延迟语音流水线变得非常划算。
不过要注意,目前放出的权重是 CC BY-NC 4.0 协议,企业如果要直接把本地权重部署到商业产品里,可能还是得买商业授权或走官方 API。
来源 (1)
- mistral.ai(在新标签页打开)原文mistral.ai