跳到正文
IFAI

AIGC

ElevenLabs 发布 Eleven v4:10 秒克隆声音,Turbo 版延迟仅 100 毫秒

首次发布 传播指数 42

ElevenLabs 发布全新语音合成模型 Eleven v4 及其低延迟变体 Eleven v4 Turbo。新模型支持用行内标签控制语气与笑声,声音克隆仅需 10 秒音频,支持超 90 种语言。Turbo 版本中位推理延迟约 100 毫秒,专为实时对话智能体优化。

ElevenLabs 发布 Eleven v4:10 秒克隆声音,Turbo 版延迟仅 100 毫秒
图:elevenlabs.io

同一句「请保持冷静」,医生轻声安抚惊恐的病人,和游戏角色在跳伞冲入战场前向队友大吼,听起来完全是两回事。

以往的语音合成往往只能机械地念出字句。9 月 28 日,ElevenLabs 推出第四代文本转语音模型 Eleven v4,以及专为低延迟对话打造的 Eleven v4 Turbo。

在 Artificial Analysis 的评测榜单上,Eleven v4 排在第一。官方在 9 月组织的双盲测试中,对比 Cartesia Sonic 3.6、Inworld TTS-2 以及 Google Gemini 3.8 Flash 系列等竞品,约 75% 的听众更偏好 Eleven v4 的发音。

像导演一样用标签给 AI 讲戏

新模型换上了全新的底层架构。它不再只是把孤立的句子机械拼接,而是会结合上下文去理解节奏、情绪和角色设定,让多角色对话显得更加自然。

更实用的改动在于控制方式。除了用自然语言向模型描述情绪,用户现在还能直接在文本里插行内标签。

比如写上 [laughs]、[said angrily in French accent],甚至插播 [light rain] 或 [phone buzzing] 这种环境音效。Eleven v4 对这类标签和导演提示词的遵循度比旧版高得多,想让它怎么演就怎么演。

此外,新模型对国际音标(IPA)的支持明显增强,专有名词和定制发音不容易念错。声音克隆的门槛也降了下来,即时声音克隆只需要 10 秒音频,而且支持最高保真度的专业声音克隆。

长内容拼接也变得更加稳定,做长篇有声书或视频旁白时,角色音色不会在生成几句后就跑偏走样。

100 毫秒延迟,跨 90 种语言学母语腔调

低延迟版本 Eleven v4 Turbo 的推理中位延迟压到了约 100 毫秒,通过 WebSocket 流式传输时的首句发声中位延迟约为 150 毫秒。这个反应速度,已经快过日常两个人聊天时的自然停顿。

过去开发者做语音智能体,经常要在表达力和速度之间二选一。低延迟通常意味着只能忍受冷冰冰的机械音,而 ElevenLabs 把 Turbo 模型直接融合进自家的 ElevenAgents 平台,试图把两头都占住。

在语言支持上,两个版本都覆盖超过 90 种语言。ElevenLabs 这次强化了母语口音保持能力。

以往用某种语言录制的声音去讲其他语言,往往念着念着就会滑回原本的口音。现在即便拿一段英语录音克隆,让它去讲西班牙语或日语,也能保持原声特色的同时,咬出自然的母语口音。

目前 Eleven v4 和 Eleven v4 Turbo 已经在 ElevenAgents、ElevenCreative 以及 API 接口全面上线。

为什么重要

我们认为,Eleven v4 最聪明的突破,在于把有声内容制作从「调参数」变成了「当导演」。用自然语言和行内标签直接混入笑声、叹息甚至背景音,大幅降低了独立游戏开发者和播客创作者的后期门槛。

仅需 10 秒音频就能完成即时声音克隆,这让多语言配音和本土化译制的成本进一步被击穿。原本大品牌需要找专业配音演员进棚录几十个小时,现在只要给出一小段授权样本,就能在全球 90 多个市场同步输出保持母语腔调的角色声音。

对行业来说,150 毫秒的首字发声延迟直接把战火烧到了实时客服和互动 NPC 赛道。它逼着 Cartesia 等专注于低延迟语音的对手继续压缩推理开销,同时让 OpenAI、Google 等通用大模型的默认语音显得过于平淡单调。

不过,克隆门槛降到 10 秒也带来了显而易见的隐患。一段随手录下的日常谈话就足以复刻一个人的声音,跨语种冒充的逼真度大幅提升,这在防范电话诈骗和声纹冒用上,给整个行业抛出了更棘手的问题。

来源 (1)

  1. [1]
    elevenlabs.io(在新标签页打开)原文elevenlabs.io

每日 AI 内容精选