跳到正文
IFAI

开源项目

SoulX-Singer:几秒人声克隆唱歌,不到 3GB 连 CPU 都能跑

首次发布 传播指数 48

Soul-AILab 开源零样本歌唱合成模型 SoulX-Singer。它只需几秒说话音频就能克隆目标人声,既能直接把参考歌声转成指定音色,也支持用自己哼唱的旋律或 MIDI 控调。模型体积不足 3GB,低端 GPU 甚至 CPU 都能本地跑起来。

SoulX-Singer:几秒人声克隆唱歌,不到 3GB 连 CPU 都能跑
图:github.com

想让某个人为你唱首歌,以前大概需要搜集他几十首干音、通宵训练声音模型,最后调教半天还可能跑调。现在这个门槛被直接打掉了。

Soul-AILab 正式开源了零样本歌唱合成模型 SoulX-Singer。它的核心卖点简单粗暴:只要几秒钟的说话音频作为音色参考,再塞给它一段唱歌参考或旋律,它就能让这个人原汁原味地把歌唱出来,完全不需要专门微调。

扔一段说话声,直接让它唱生日歌

SoulX-Singer 最直观的玩法就是声音克隆唱歌。你在日常里随便录一段几秒钟的低沉男声念白,然后再找一段普通的「祝你生日快乐」唱歌音频喂给它,模型就能把两段拼合,让那个低沉男声准确地唱出这首生日歌。

在演示案例里,有人把前美国总统奥巴马公开演讲的几秒声音丢进去,搭配经典老歌的参考音频,生成的成品直接让奥巴马唱起了流行老歌。无论是说唱、重金属摇滚还是口水歌,它都能较好地把音色套在对应曲风上。

除了直接套用现有歌曲,它还支持原创音乐制作。你可以自己先哼唱或者唱一遍原创歌词,让模型抓取旋律走势(F0 轮廓),再指定任何一个音色让它替你唱出这段旋律。如果你懂编曲,它甚至支持 MIDI 音符控制,用来精确调整音高和节奏。

不到 3GB 的小身板,代码权重全放开

这套模型之所以迅速引发讨论,是因为开发团队开放得非常彻底。他们不仅把推理代码和权重扔到了 GitHub 和 Hugging Face 上,还采用了宽松的 Apache 2.0 许可证,支持学术与商业探索。

训练底座方面,团队用上了超过 4.2 万小时的人声、歌词和音符对齐数据集,覆盖普通话、英语和粤语。这让它天然具备跨语种演唱能力,哪怕拿中文日常说话的样本,也能合成出英文或粤语歌曲。

最接地气的是它的运行门槛。整个模型体积不到 3GB,并不需要昂贵的数据中心计算卡。低端消费级 GPU 甚至普通 CPU 都能在本地跑起来。官方还提供了基于网页的 WebUI 界面,随后还跟进了纯音频对音频转换的 SoulX-Singer-SVC 模型以及在线 MIDI 编辑工具。

为什么重要

我们认为,SoulX-Singer 最大的价值在于把歌声合成的门槛拉到了平民线。对于独立音乐人和内容创作者来说,写出 demo 之后找歌手试唱往往成本很高,现在自己随便哼两句、选个合适的声音就能先听到大致成品,试错成本被大幅压缩。

对行业而言,它标志着声音克隆从单纯的「念稿朗读」全面迈向「富情感表达」的歌唱领域。过去高质量声音合成往往是少数大厂的封闭云端能力,而 SoulX-Singer 证明了在 4 万多小时多语言数据加持下,不到 3GB 的小模型也能在本地完成零样本高质量合成,这会加速本地化音频生产管线的普及。

不过隐患也显而易见。仅凭几秒说话声就能高保真克隆唱歌,甚至直接模仿政要或名人发声,必然会给音乐版权和肖像声音权带来极大冲击。官方虽然提示了知识产权和授权合规,但既然权重已经完全开放,开源社区后续如何防范滥用,依然是个无解的难题。

来源 (1)

  1. [1]

每日 AI 内容精选