ElevenLabs 上线 AI 配音工具:翻译语音还能保留本人音色
ElevenLabs 推出 AI Dubbing 工具。它能在几分钟内把语音转译成 20 多种语言,同时保留说话者原本的音色、情绪与语调。系统还支持多人说话人分离与背景杂音过滤,创作者点几下就能做跨语言内容分发。
看海外博主的视频或者译制片时,最别扭的往往不是听不懂,而是配音演员一开口,原片那种自然的情绪和独有的音色全没了。
做语音 AI 的 ElevenLabs 想彻底改掉这个痛点。10 月 10 日,ElevenLabs 正式上线了全新的 AI Dubbing(AI 配音)工具,主打在几分钟内把音视频翻译成其他语言,而且完全保留原讲述者自己的声音。
让你自己的声音无缝说出 20 种语言
以往的内容出海,要么老老实实加双语字幕,要么花大价钱请多语种配音演员重新录一遍。ElevenLabs 这次交出的方案,走的是全流程自动化的路子。
这个工具依托于此前发布的 Eleven Multilingual v2 模型,目前支持超过 20 种语言互译,包括印地语、葡萄牙语、西班牙语、日语、乌克兰语、波兰语和阿拉伯语等。
它最亮眼的地方在于不仅克隆音色,还会尽量还原说话时的情绪起伏和语调。说白了,你在原视频里激昂还是低沉,翻译过去的西班牙语或日语版本里,依然能听出那种感觉,而不是平淡无奇的机器朗读腔。
另外,现实里的视频很少是单一无杂音的人声。ElevenLabs 专门开发了自己的多说话人检测算法与降噪技术,能把背景音乐、环境杂音和人声对话剥离开来。如果一段视频里有几个人在讨论,系统能自动识别出谁是谁,给每个人分配对应的音色克隆,不会混在一起。
这项功能之前,ElevenLabs 还刚刚推出了针对长音频生成与编辑的 Studio 工具,支持角色分配、停顿插入和片段重新生成。AI Dubbing 算是给他们的音频工具箱补上了本地化翻译这块最关键的拼图。
为什么重要
我们认为,AI Dubbing 对内容创作者来说是一次分发维度的质变。ElevenLabs 提到过一组数据:全球只有 6% 的人以英语为母语,75% 的人根本不说英语。过去中腰部个人博主想要做海外多语种矩阵,成本高到根本不现实;现在只要点几下鼠标,几分钟就能低成本生成多语种版本,出海门槛被直接打到了地板上。
对行业而言,传统的本地化译制公司和初级商业配音员会面临极其现实的冲击。以往动辄按小时计费、耗时数周的外语配音外包流程,在速度和成本上完全没办法和 AI 自动化工具抗衡。
ElevenLabs 这步棋走得非常聪明,他们没有停留在单纯的文本转语音 API,而是顺着创作者的工作流,把人声分离、去噪、多说话人识别和跨语言克隆打包成现成产品。不过隐患也显而易见:这次官方并没有提及口型匹配(Lip-sync)功能,如果画面里的口型和外语发音严重脱节,沉浸感依然会打折扣。如何把语音本地化与面部口型合成结合起来,看起来才是多模态翻译真正的终局战场。
来源 (1)
- elevenlabs.io(在新标签页打开)原文elevenlabs.io