跳到正文
IFAI

AIGC

ElevenLabs 釋出 Eleven v4:10 秒克隆聲音,Turbo 版延遲僅 100 毫秒

首次發布 傳播指數 42

ElevenLabs 釋出全新語音合成模型 Eleven v4 及其低延遲變體 Eleven v4 Turbo。新模型支援用行內標籤控制語氣與笑聲,聲音克隆僅需 10 秒音訊,支援超 90 種語言。Turbo 版本中位推理延遲約 100 毫秒,專為即時對話智慧體最佳化。

ElevenLabs 釋出 Eleven v4:10 秒克隆聲音,Turbo 版延遲僅 100 毫秒
圖:elevenlabs.io

同一句「請保持冷靜」,醫生輕聲安撫驚恐的病人,和遊戲角色在跳傘衝入戰場前向隊友大吼,聽起來完全是兩回事。

以往的語音合成往往只能機械地念出字句。9 月 28 日,ElevenLabs 推出第四代文本轉語音模型 Eleven v4,以及專為低延遲對話打造的 Eleven v4 Turbo。

在 Artificial Analysis 的評測榜單上,Eleven v4 排在第一。官方在 9 月組織的雙盲測試中,對比 Cartesia Sonic 3.6、Inworld TTS-2 以及 Google Gemini 3.8 Flash 系列等競品,約 75% 的聽眾更偏好 Eleven v4 的發音。

像導演一樣用標籤給 AI 講戲

新模型換上了全新的底層架構。它不再只是把孤立的句子機械拼接,而是會結合上下文去理解節奏、情緒和角色設定,讓多角色對話顯得更加自然。

更實用的改動在於控制方式。除了用自然語言向模型描述情緒,使用者現在還能直接在文本里插行內標籤。

比如寫上 [laughs]、[said angrily in French accent],甚至插播 [light rain] 或 [phone buzzing] 這種環境音效。Eleven v4 對這類標籤和導演提示詞的遵循度比舊版高得多,想讓它怎麼演就怎麼演。

此外,新模型對國際音標(IPA)的支援明顯增強,專有名詞和定製發音不容易唸錯。聲音克隆的門檻也降了下來,即時聲音克隆只需要 10 秒音訊,而且支援最高保真度的專業聲音克隆。

長內容拼接也變得更加穩定,做長篇有聲書或影片旁白時,角色音色不會在生成幾句後就跑偏走樣。

100 毫秒延遲,跨 90 種語言學母語腔調

低延遲版本 Eleven v4 Turbo 的推理中位延遲壓到了約 100 毫秒,通過 WebSocket 流式傳輸時的首句發聲中位延遲約為 150 毫秒。這個反應速度,已經快過日常兩個人聊天時的自然停頓。

過去開發者做語音智慧體,經常要在表達力和速度之間二選一。低延遲通常意味著只能忍受冷冰冰的機械音,而 ElevenLabs 把 Turbo 模型直接融合進自家的 ElevenAgents 平臺,試圖把兩頭都佔住。

在語言支援上,兩個版本都覆蓋超過 90 種語言。ElevenLabs 這次強化了母語口音保持能力。

以往用某種語言錄製的聲音去講其他語言,往往念著念著就會滑回原本的口音。現在即便拿一段英語錄音克隆,讓它去講西班牙語或日語,也能保持原聲特色的同時,咬出自然的母語口音。

目前 Eleven v4 和 Eleven v4 Turbo 已經在 ElevenAgents、ElevenCreative 以及 API 介面全面上線。

為什麼重要

我們認為,Eleven v4 最聰明的突破,在於把有聲內容製作從「調引數」變成了「當導演」。用自然語言和行內標籤直接混入笑聲、嘆息甚至背景音,大幅降低了獨立遊戲開發者和播客創作者的後期門檻。

僅需 10 秒音訊就能完成即時聲音克隆,這讓多語言配音和本土化譯製的成本進一步被擊穿。原本大品牌需要找專業配音演員進棚錄幾十個小時,現在只要給出一小段授權樣本,就能在全球 90 多個市場同步輸出保持母語腔調的角色聲音。

對行業來說,150 毫秒的首字發聲延遲直接把戰火燒到了即時客服和互動 NPC 賽道。它逼著 Cartesia 等專注於低延遲語音的對手繼續壓縮推理開銷,同時讓 OpenAI、Google 等通用大模型的預設語音顯得過於平淡單調。

不過,克隆門檻降到 10 秒也帶來了顯而易見的隱患。一段隨手錄下的日常談話就足以復刻一個人的聲音,跨語種冒充的逼真度大幅提升,這在防範電話詐騙和聲紋冒用上,給整個行業丟擲了更棘手的問題。

來源 (1)

  1. [1]
    elevenlabs.io(在新分頁開啟)原文elevenlabs.io

每日 AI 內容精選