跳到正文
IFAI

AI科研

微软推出 VALL-E:只需 3 秒音频就能克隆你的声音

首次发布 传播指数 31

微软公布文本转语音模型 VALL-E。它仅凭 3 秒音频就能模拟说话者的音色、情感甚至房间声学环境。模型基于 Meta 音频库中 6 万小时语音训练,因防范声音冒充等滥用风险,微软目前未开源代码。

微软推出 VALL-E:只需 3 秒音频就能克隆你的声音
图:engadget.com

想克隆一个人的声音,过去你可能得把他请进专业录音棚,老老实实念上几十分钟甚至几个小时的语料。

现在微软告诉大家,这件事其实只要三秒钟。

微软公布了一项名为 VALL-E 的文本转语音研究。只要给它一段三秒钟的说话音频,它就能照着这个人的声音把任意文本念出来。

连房间的回音都能学过去

以往的声音克隆工具通常需要大量样本来训练,过程繁琐不说,生成的语音还很容易显得僵硬死板。

VALL-E 走的是零样本学习路线。它厉害的地方在于,不仅能还原说话人的音色,还能连带捕捉说话时的情绪和周围的声学环境。

换句话说,如果你的三秒录音是在一间带回声的会议室里带着气愤语气说的,它生成的新语音就会带着同样的情绪和房间混响。

为了练出这个本事,研究人员用了 Meta 旗下的 Libri-Light 音频数据集。整个训练吃进了 7000 多位说话人、累计超过 6 万小时的英文语音。

从生成质量来看,它目前还不算完美。测试样本里有一部分听起来带着金属机械音,质感发薄;但另一部分生成的效果却逼真得吓人。

出于安全考虑,微软并没有把 VALL-E 开源。研究团队在论文中坦言,这种能精准还原说话人身份的模型一旦失控,很容易被拿来冒充他人,或者去破解金融机构的声音识别认证。

为什么重要

我们认为,VALL-E 标志着语音克隆彻底从「定制服务」走到了「随取随用」的门槛上。把门槛打到三秒,意味着你发在社交平台的一条语音消息,甚至一通骚扰电话里你的开场白,都足够别人拿去生成一套完整的声音分身。

对普通创作者来说,它未来能大幅降低视频配音、播客补录的成本。如果你录音时念错了一句话,不用重新架设麦克风,直接敲几个字就能无缝修补。

但在行业层面,它也给现有的声纹验证安全敲了警钟。过去银行和客服常用的「凭声音确认身份」,在三秒克隆技术面前看起来已经不再安全。

微软选择不开源是聪明的做法,至少没有让黑灰产立刻拿到开箱即用的作案工具。但只要论文里的技术路径被公开,其他团队迟早会做出同类开源替代品。如何在语音合成普及之前建立起可靠的水印和鉴伪机制,已经成了全行业必须面对的现实问题。

来源 (2)

  1. [1]
    mpost.io(在新标签页打开)原文mpost.io
  2. [2]
    engadget.com(在新标签页打开)报道engadget.com

每日 AI 内容精选