跳到正文
IFAI

开源项目

VocalRender:输入歌词和乐谱,直接合成 48 kHz 高保真歌声

首次发布 传播指数 48

开源歌声合成系统 VocalRender 发布。它直接接收歌词与 MIDI 音符输入,配合数秒参考音频,无需手动对齐时序即可渲染出 48 kHz 歌声。项目以 Apache-2.0 协议开源了全套代码,并提供约 9.5 GB 的基础版与 Pro 权重。

VocalRender:输入歌词和乐谱,直接合成 48 kHz 高保真歌声
图:github.com

VocalRender 是一个开源的乐谱原生歌声合成系统,可以直接把你写好的歌词和 MIDI 旋律,渲染成 48 kHz 的高保真歌声。

做过虚拟歌手调教或者接触过传统歌声合成工具的朋友都知道,以前做一首歌特别费劲,不仅要把每个字甚至每个音素的时长一格格对齐,还得手动画音高曲线。VocalRender 的思路不一样,它只吃作曲家平时用到的符号信息:歌词、MIDI 音高、音符时值,以及曲速。

它能做什么

你只需要准备三样东西:歌词、用 MIDI 记下的旋律,加上一段 2 到 8 秒的干净人声采样作为音色参考。

模型会自己决定最终的演唱时序和发音节奏。遇到一字多音的情况,也就是一个汉字要转好几个音符时,它也能自动平滑处理,不需要人工标注每个音唱多长。

官方提供了两个模型权重:基础版 VocalRender 和进阶版 VocalRender-Pro。两个版本的模型结构和参数量完全一致,都是基于语音基础模型 VoxCPM2 初始化而来。不同之处在于训练配方:基础版用的是两阶段合成数据预训练加 CrawlSinger-OS 微调,Pro 版本则在大规模真实歌声数据集上训练了更长时间,演唱表现力和细节都更出色。

在效果对比上,它比同类工具明显更稳,不会出现音高乱飘、跑调的情况,还能还原歌手的呼吸感与细微咬字。

怎么跑起来

项目采用 Apache-2.0 协议开源,包括数据预处理、模型架构、推理脚本、评估指标,以及训练代码全套开放。

每个权重文件下载下来大约 9.5 GB。它需要一张支持 CUDA 的独立显卡,不过只要你的显卡显存装得下这 10 GB 左右的模型,本地就能直接跑起来。

最简单的上手方式是克隆仓库后配置环境,从 Hugging Face 下载基础版或 Pro 版权重,直接运行自带的单曲推理脚本。项目自带了来自 OpenCpop 数据集的三个现成乐谱与参考音频对,不用改配置就能直接输出一段 48 kHz 的演示音频。

如果你不想敲命令行,仓库里还自带了一个基于 Gradio 的 WebUI 演示,配有钢琴卷帘编辑器,支持导入 ABC 或 MusicXML 乐谱,可以直接在浏览器里挑音色、换模型来试听。

需要注意的是,官方放出来的预训练权重目前主要是在中文歌声数据集上训练的。如果你想让它唱其他语言,仓库里已经开源了完整的预处理和训练脚本,你可以准备自己的多语言数据集重新训练。

为什么重要

如果你是独立音乐人或编曲爱好者,VocalRender 能极大降低做 Demo 的门槛。以前请不起歌手又嫌调教 Vocaloid 太累,现在只要把 MIDI 旋律和歌词丢进去,给几秒参考音色,几分钟就能出一版像模像样的试唱。

和传统方案相比,它最聪明的地方在于彻底抛弃了人工时间对齐和手工 F0 曲线,改用自回归框架预测节奏草图、再由扩散模型修饰高保真音频细节。虽然目前多语言能力还需要自己准备数据训练,但以现在的开源完整度和音质表现,它已经是非常值得装进工具箱的本地音乐生产力工具。

来源 (1)

  1. [1]
    github.com(在新标签页打开)原文github.com

每日 AI 内容精选