跳到正文
IFAI

開源專案

VocalRender:輸入歌詞和樂譜,直接合成 48 kHz 高保真歌聲

首次發布 傳播指數 48

開源歌聲合成系統 VocalRender 釋出。它直接接收歌詞與 MIDI 音符輸入,配合數秒參考音訊,無需手動對齊時序即可渲染出 48 kHz 歌聲。專案以 Apache-2.0 協議開源了全套程式碼,並提供約 9.5 GB 的基礎版與 Pro 權重。

VocalRender:輸入歌詞和樂譜,直接合成 48 kHz 高保真歌聲
圖:github.com

VocalRender 是一個開源的樂譜原生歌聲合成系統,可以直接把你寫好的歌詞和 MIDI 旋律,渲染成 48 kHz 的高保真歌聲。

做過虛擬歌手調教或者接觸過傳統歌聲合成工具的朋友都知道,以前做一首歌特別費勁,不僅要把每個字甚至每個音素的時長一格格對齊,還得手動畫音高曲線。VocalRender 的思路不一樣,它只吃作曲家平時用到的符號資訊:歌詞、MIDI 音高、音符時值,以及曲速。

它能做什麼

你只需要準備三樣東西:歌詞、用 MIDI 記下的旋律,加上一段 2 到 8 秒的乾淨人聲取樣作為音色參考。

模型會自己決定最終的演唱時序和發音節奏。遇到一字多音的情況,也就是一個漢字要轉好幾個音符時,它也能自動平滑處理,不需要人工標註每個音唱多長。

官方提供了兩個模型權重:基礎版 VocalRender 和進階版 VocalRender-Pro。兩個版本的模型結構和引數量完全一致,都是基於語音基礎模型 VoxCPM2 初始化而來。不同之處在於訓練配方:基礎版用的是兩階段合成數據預訓練加 CrawlSinger-OS 微調,Pro 版本則在大規模真實歌聲資料集上訓練了更長時間,演唱表現力和細節都更出色。

在效果對比上,它比同類工具明顯更穩,不會出現音高亂飄、跑調的情況,還能還原歌手的呼吸感與細微咬字。

怎麼跑起來

專案採用 Apache-2.0 協議開源,包括資料預處理、模型架構、推理指令碼、評估指標,以及訓練程式碼全套開放。

每個權重檔案下載下來大約 9.5 GB。它需要一張支援 CUDA 的獨立顯示卡,不過只要你的顯示卡視訊記憶體裝得下這 10 GB 左右的模型,本地就能直接跑起來。

最簡單的上手方式是克隆倉庫後配置環境,從 Hugging Face 下載基礎版或 Pro 版權重,直接執行自帶的單曲推理指令碼。專案自帶了來自 OpenCpop 資料集的三個現成樂譜與參考音訊對,不用改配置就能直接輸出一段 48 kHz 的演示音訊。

如果你不想敲命令列,倉庫裡還自帶了一個基於 Gradio 的 WebUI 演示,配有鋼琴捲簾編輯器,支援匯入 ABC 或 MusicXML 樂譜,可以直接在瀏覽器裡挑音色、換模型來試聽。

需要注意的是,官方放出來的預訓練權重目前主要是在中文歌聲資料集上訓練的。如果你想讓它唱其他語言,倉庫裡已經開源了完整的預處理和訓練指令碼,你可以準備自己的多語言資料集重新訓練。

為什麼重要

如果你是獨立音樂人或編曲愛好者,VocalRender 能極大降低做 Demo 的門檻。以前請不起歌手又嫌調教 Vocaloid 太累,現在只要把 MIDI 旋律和歌詞丟進去,給幾秒參考音色,幾分鐘就能出一版像模像樣的試唱。

和傳統方案相比,它最聰明的地方在於徹底拋棄了人工時間對齊和手工 F0 曲線,改用自迴歸框架預測節奏草圖、再由擴散模型修飾高保真音訊細節。雖然目前多語言能力還需要自己準備資料訓練,但以現在的開源完整度和音質表現,它已經是非常值得裝進工具箱的本地音樂生產力工具。

來源 (1)

  1. [1]
    github.com(在新分頁開啟)原文github.com

每日 AI 內容精選