Mistral 釋出 Voxtral TTS:4B 引數語音模型,延遲僅 70 毫秒
Mistral AI 釋出首個文本轉語音模型 Voxtral TTS。該模型引數量為 4B,支援英語、法語等 9 種語言,典型輸入延遲僅 70ms,最快僅需 3 秒音訊即可完成聲音克隆。模型權重已開源,API 定價為每千字元 0.016 美元。
Voxtral TTS 是 Mistral AI 推出的 4B 引數文本轉語音模型,專門用來給低延遲即時語音助手配一副逼真、能帶情緒的嗓子。
它最亮眼的地方在於輕量和快速:模型只有 4B 引數,典型輸入下的端到端生成延遲僅有 70 毫秒,而且只要一段 3 秒的參考音訊,就能完成高質量的聲音克隆。
它能做什麼
Voxtral TTS 原生支援 9 種語言,包括英語、法語、德語、西班牙語、荷蘭語、葡萄牙語、義大利語、印地語和阿拉伯語,並且能較好地保留各種地方口音。
在聲音表達上,它不只是機械地念稿子。模型能理解文字裡的中性、開心、諷刺等上下文情緒,連呼吸停頓、語速節奏甚至口誤這種細微的人性化特徵都能抓出來。
更實用的是零樣本跨語言聲音克隆。你餵給它一段法語母語者的 3 秒語音,讓它去唸英文,它就能生成帶著地道法國口音的自然英語,非常適合搭建級聯語音翻譯流。
單次原生生成長度最長為 2 分鐘,官方 API 則通過分片交織處理來支援任意時長的文本合成。
技術底子與效能表現
Voxtral TTS 並不是單一大模型硬懟,它是一個結合了自迴歸與流匹配(Flow Matching)的複合架構,基於 Ministral 3B 打造。
整套系統由三部分拼成:3.4B 引數的 Transformer 解碼器骨幹、390M 引數的流匹配聲學 Transformer,以及一個 300M 引數的自研神經音訊編解碼器。
在 10 秒語音配 500 個字元的典型測試下,模型延遲約為 70 毫秒,即時率達到了 9.7 倍。這意味著它生成 1 秒音訊實際只需 0.1 秒左右,完全能接進高頻對話系統。
在人工盲測中,原生地道發音者對它與 ElevenLabs Flash v2.5 進行了橫向對比。結果顯示 Voxtral TTS 在自然度、口音還原和音色相似度上都更有優勢,整體生成質量則基本看齊了 ElevenLabs v3。
怎麼上手和開放程度
如果你想在自己的機器上折騰,Mistral 已經在 Hugging Face 上放出了模型權重,包含幾個現成的參考音色,許可證採用的是 CC BY-NC 4.0 非商業授權。
不想自己搭環境的話,可以直接去 Mistral Studio 的 Playground 或者 Le Chat 裡試玩,可以線上錄音測試克隆效果。
開發者如果想直接接入業務,官方 API 已經開放,呼叫價格是每 1000 個字元 0.016 美元。
為什麼重要
做即時語音 Agent 的團隊非常值得立刻試一試。過去做擬人語音,要麼選 ElevenLabs 這類閉源高價商業 API,成本和延遲很難壓下來;要麼用開源小模型,語氣和跨語言能力往往很機械。
Voxtral TTS 把高質量擬人、跨語言克隆和 70 毫秒低延遲打包放進了一個 4B 模型裡。這讓自建低延遲語音流水線變得非常划算。
不過要注意,目前放出的權重是 CC BY-NC 4.0 協議,企業如果要直接把本地權重部署到商業產品裡,可能還是得買商業授權或走官方 API。
來源 (1)
- mistral.ai(在新分頁開啟)原文mistral.ai