開源音樂模型 HeartMuLa:輸入歌詞一鍵成曲,實測叫板 Suno
開源音樂基礎模型 HeartMuLa 釋出,輸入曲風提示詞和歌詞即可一鍵生成含人聲與伴奏的完整歌曲。目前已開放 30 億引數版本,權重約 16GB,支援中英日韓西多語言,旋律一致性與歌詞跟隨度極高。這意味著學術級資源也能做出逼近頂級閉源商業水準的整麴生成工具。

HeartMuLa 是一個能讓你在本地一鍵生成整首歌曲的開源音樂基礎模型。你只需要給它一段音樂風格或曲風描述,再填上一份歌詞,它就能直接跑出一首包含清晰人聲和伴奏的完整歌曲,不用再在多個工具之間反覆拼接。
目前這個專案已經開放了 30 億引數(3B)版本的模型權重,檔案大小在 16GB 左右,相關的程式碼和說明已經在 GitHub 與 Hugging Face 上線,論文也同步發在 arXiv 上。
它是怎麼把歌做出來的
傳統的開源音樂工具往往只能生成簡短片段,或者人聲伴奏混成一團。HeartMuLa 採用了一套完整的模態生成框架,核心由四個模組拼合而成。
負責把聲音和文字對齊的是 HeartCLAP,歌詞識別由專門最佳化的 HeartTranscriptor 承擔。最關鍵的聲音壓縮部分交給了 HeartCodec,這是一個 12.5Hz 的低幀率高保真音訊編解碼器,既能抓住音樂的長程結構,又能保留細膩的聲音質感。
最後,底層的語言模型 HeartMuLa 負責統攬全域性,根據輸入的文本描述、歌詞甚至參考音訊,自迴歸地把整首歌“寫”出來。
它還支援對歌曲不同段落進行精細化控制。比如你可以在提示詞裡分別指定前奏、主歌、副歌的風格走勢,或者直接切換成短影片配樂模式,專門生成節奏抓耳的短音訊。
實際效果與上手門檻
從實測和論文給出的評測來看,HeartMuLa 最強的地方在於旋律記憶力和歌詞跟隨能力。很多 AI 音樂模型唱到後面就把前面的旋律忘了,但它能在主歌和副歌之間保持旋律線高度一致,段落過渡非常穩定。
它的聲音純淨度在開源領域相當突出,人聲和伴奏的分離感很清晰。語言方面目前支援英語、中文、日語、韓語和西班牙語等多種語言輸入。
在歌詞錯誤率這項硬指標上,團隊表示它甚至擊敗了閉源標杆 Suno V5,整體音質和結構連貫性也十分接近行業頂級商用水準。
不過它現在也有明顯的毛病。如果輸入的歌詞結構嚴重不對稱,模型很容易把副歌拖得太長,後面的節拍和節奏就會開始發散甚至失控。這更偏向提示工程和歌詞排版的問題,寫歌詞時最好保持段落對稱。
硬體要求方面,現在的 3B 版本權重約為 16GB,本地跑需要一張視訊記憶體充裕的高階消費級顯示卡;團隊還預告了後續會推出質量更高的 7B 版本。
為什麼重要
對開發者和音樂創作者來說,HeartMuLa 最大的價值在於打破了 Suno 這類商業閉源服務的壟斷。你不需要按月給商業平臺付費,也不用擔心自己喂進去的創意被拿去二次訓練,在本地就能搭建起一套完整的商業級音樂製作管線。
更關鍵的是,團隊證明了僅靠學術規模的資料和算力,同樣能復現出商業級的音樂生成系統。我們認為,這會讓音樂 AI 的競爭主戰場從封閉 API 快速擴散到開源社群,如果你想自己魔改音樂工作流或做獨立音影片配樂,現在就可以去 GitHub 拉下程式碼試一試了。
來源 (1)
- arxiv.org(在新分頁開啟)原文arxiv.org