跳到正文
IFAI

AIGC

Meta 推出语音模型 Voicebox:凭 2 秒音频克隆,还能像橡皮擦修杂音

首次发布 传播指数 39

Meta 公布语音生成模型 Voicebox。它基于上下文学习,只需 2 秒音频样本就能模仿音色合成语音,支持 6 种语言的风格迁移,还能像橡皮擦一样切除杂音并重生成无缝语音。

Meta 推出语音模型 Voicebox:凭 2 秒音频克隆,还能像橡皮擦修杂音
图:about.fb.com

录播客或者拍视频的人,大概都经历过这种崩溃瞬间:整段录音录得很完美,偏偏中间混进了一声汽车鸣笛,或者自己咬错了一个字。

以往遇到这种情况,要么老老实实重录一遍,要么在剪辑软件里痛苦地修修补补。Meta 最近拿出的语音生成模型 Voicebox,想解决的就是这种麻烦。

Meta 把它定义为一个通用的语音生成模型。它最厉害的地方在于,凭借类似大语言模型的上下文学习能力,不需要针对某个任务单独微调,就能直接处理剪辑、采样和声音风格迁移。

像用橡皮擦一样修音频

Voicebox 最直观的一个用法,是音频编辑和降噪。Meta 把它比作音频处理里的「橡皮擦」。

比如录音里有一段被狗叫声盖住了,或者你中间说错了一个词,你不需要把整段话重新念一遍。你只要把那两秒剪掉,让 Voicebox 根据前后的语调,重新把那句话补齐。

补出来的声音不仅内容对得上,连语气、语速和环境氛围都能保持一致,听起来就像是一口气录完的。

更夸张的是克隆门槛。Voicebox 只需要两秒钟的声音样本,就能抓准一个人的声音特征,然后用这个声音去读任意输入的文字。

让你用自己的声音说六门外语

除了常规的语音克隆,Voicebox 还支持跨语言风格迁移,目前覆盖了英语、法语、德语、西班牙语、波兰语和葡萄牙语这六种语言。

这意味着你哪怕完全不会法语,只要给它一段你平时的英语录音,再塞给它一段法文文本,它就能用你自己的音色和说话习惯,字正腔圆地把法语读出来。

此外,Meta 表示这个模型是用非常多样化的现实语料训练的,所以它生成的语音不会像传统语音助手那样带着浓浓的播音腔,而是更接近真人平时说话的口音、停顿和杂音细节。

未来 Meta 打算把它塞进虚拟助手的嘴里,或者给元宇宙里的 NPC 配音,甚至让视障人士听 AI 用朋友的原声朗读发来的文字信息。

为什么重要

对内容创作者和配音行业来说,这种技术的落地门槛非常低。两秒音频就能克隆,再加上无痕修音,视频后期补录台词的成本直接被打到了地板上。如果你平时做跨语种出海内容,以前找多语种外教配音的开销,未来可能几行文字就能搞定。

对行业而言,Voicebox 证明了大模型那套上下文学习的逻辑在语音领域同样行得通。语音合成正在从过去必须专门训练某个特定声音的定制模式,变成一种零样本、即插即用的通用能力,这会逼着现有的配音工具和 TTS 平台迅速重构底层架构。

我们认为 Meta 这一步切得非常精准,它没有把语音 AI 当成单纯的朗读机器,而是把它做成了类似图像修图一样的交互式工具。音频擦除和跨语言替换,直击真实工作流里的痛点。

不过隐患也同样明显。只要两秒音频就能高保真克隆一个人的声音,甚至还能让对方说出六种语言,这意味着声音防伪的防线几乎被彻底击穿。在深度伪造和电话诈骗横行的当下,这种技术在开放使用前,必须要拿出极其严格的鉴伪和水印方案,否则它惹出的麻烦可能比带来的便利还要多。

来源 (1)

  1. [1]
    about.fb.com(在新标签页打开)原文about.fb.com

同类事件

过去类似的事,帮助理解这一条。

每日 AI 内容精选