开源音乐模型 HeartMuLa:输入歌词一键成曲,实测叫板 Suno
开源音乐基础模型 HeartMuLa 发布,输入曲风提示词和歌词即可一键生成含人声与伴奏的完整歌曲。目前已开放 30 亿参数版本,权重约 16GB,支持中英日韩西多语言,旋律一致性与歌词跟随度极高。这意味着学术级资源也能做出逼近顶级闭源商业水准的整曲生成工具。

HeartMuLa 是一个能让你在本地一键生成整首歌曲的开源音乐基础模型。你只需要给它一段音乐风格或曲风描述,再填上一份歌词,它就能直接跑出一首包含清晰人声和伴奏的完整歌曲,不用再在多个工具之间反复拼接。
目前这个项目已经开放了 30 亿参数(3B)版本的模型权重,文件大小在 16GB 左右,相关的代码和说明已经在 GitHub 与 Hugging Face 上线,论文也同步发在 arXiv 上。
它是怎么把歌做出来的
传统的开源音乐工具往往只能生成简短片段,或者人声伴奏混成一团。HeartMuLa 采用了一套完整的模态生成框架,核心由四个模块拼合而成。
负责把声音和文字对齐的是 HeartCLAP,歌词识别由专门优化的 HeartTranscriptor 承担。最关键的声音压缩部分交给了 HeartCodec,这是一个 12.5Hz 的低帧率高保真音频编解码器,既能抓住音乐的长程结构,又能保留细腻的声音质感。
最后,底层的语言模型 HeartMuLa 负责统揽全局,根据输入的文本描述、歌词甚至参考音频,自回归地把整首歌“写”出来。
它还支持对歌曲不同段落进行精细化控制。比如你可以在提示词里分别指定前奏、主歌、副歌的风格走势,或者直接切换成短视频配乐模式,专门生成节奏抓耳的短音频。
实际效果与上手门槛
从实测和论文给出的评测来看,HeartMuLa 最强的地方在于旋律记忆力和歌词跟随能力。很多 AI 音乐模型唱到后面就把前面的旋律忘了,但它能在主歌和副歌之间保持旋律线高度一致,段落过渡非常稳定。
它的声音纯净度在开源领域相当突出,人声和伴奏的分离感很清晰。语言方面目前支持英语、中文、日语、韩语和西班牙语等多种语言输入。
在歌词错误率这项硬指标上,团队表示它甚至击败了闭源标杆 Suno V5,整体音质和结构连贯性也十分接近行业顶级商用水准。
不过它现在也有明显的毛病。如果输入的歌词结构严重不对称,模型很容易把副歌拖得太长,后面的节拍和节奏就会开始发散甚至失控。这更偏向提示工程和歌词排版的问题,写歌词时最好保持段落对称。
硬件要求方面,现在的 3B 版本权重约为 16GB,本地跑需要一张显存充裕的高端消费级显卡;团队还预告了后续会推出质量更高的 7B 版本。
为什么重要
对开发者和音乐创作者来说,HeartMuLa 最大的价值在于打破了 Suno 这类商业闭源服务的垄断。你不需要按月给商业平台付费,也不用担心自己喂进去的创意被拿去二次训练,在本地就能搭建起一套完整的商业级音乐制作管线。
更关键的是,团队证明了仅靠学术规模的数据和算力,同样能复现出商业级的音乐生成系统。我们认为,这会让音乐 AI 的竞争主战场从封闭 API 快速扩散到开源社区,如果你想自己魔改音乐工作流或做独立音视频配乐,现在就可以去 GitHub 拉下代码试一试了。
来源 (1)
- arxiv.org(在新标签页打开)原文arxiv.org