Audio8-TTS-Realistic 开源:6 亿参数,几秒音频即可克隆 23 种语言
Edge0 开源文本转语音模型 Audio8-TTS-Realistic,仅 6 亿参数、体积 2.6GB。它只需几秒参考音频即可完成零样本声音克隆,支持 23 种语言。模型采用 Apache 2.0 许可证允许商用,低配消费级 GPU 也能轻松运行。

Audio8-TTS-Realistic 是一款轻量级开源文本转语音模型,只要喂给它几秒钟干净的参考音频和文字,它就能克隆出对应音色,并说出 23 种语言的任意文本。
模型由 Edge0 推出,主模型参数只有 6 亿(601M),权重文件体积仅 2.6GB。整套代码和权重基于非常宽松的 Apache 2.0 许可证开源,允许免费商用。
它是怎么做到又快又真的
Audio8-TTS-Realistic 采用了双自回归(DualAR)架构。它的慢分支基于 Qwen2.5 0.5B 构建,负责逐帧预测文本和第一个音频码本;随后由一个仅有 4 层的浅层快分支并行预测剩下的 9 个码本。
这种结构把大部分串行计算压缩在帧级别,生成速度极快,自带 44.1kHz 的神经音频编解码器,不需要参考音频时也能直接生成语音。
为了让声音不发机械音,团队在多语言精调之后,用了强化学习算法 GRPO。最关键的是最后阶段引入了一个真实度判别模型,拿人类真实录音作为标杆,逼着模型去学习真实的呼吸节奏、停顿与语速,而不是单纯刷字错率。
表现如何与硬件要求
在 CV3 的 9 语言基准测试中,它的平均错误率为 4.86%,击败了 17 亿参数的 Qwen3-TTS(7.73%)和 VoxCPM2(5.35%)。
不过面对 40 亿级别的 Higgs TTS 3,它在指标上仍有差距。此外它在低资源语言上偏科严重,泰语的字错率高达 48.57%,粤语字错率也有 31.35%。
硬件门槛非常亲民。在消费级显卡上使用 BF16 精度就能轻松跑起来。论文数据显示,在苹果 M2 芯片上跑 INT4 量化版时,峰值内存占用只有 1.1 到 1.2 GiB,不过目前官方还没放出 Realistic 版本的 ONNX 导出。
想要尝试的话,Hugging Face 提供了免费的 ZeroGPU 在线体验 Demo。本地部署需要 PyTorch 2.5 和 Transformers 4.57 以上环境,官方仓库还提供了 SGLang Omni 适配器,支持 OpenAI 兼容接口和批量并发推理。
为什么重要
如果你是独立开发者或中小团队,想要给应用接入多语言配音或实时语音交互,Audio8-TTS-Realistic 是目前极其划算的开源选择。以往要达到这种自然度的音色克隆,通常需要 2B 到 4B 参数的模型,部署成本高出一大截,而它直接把门槛压到了 6 亿参数。
我们认为,它的聪明之处在于放弃了单纯堆参数,转而用判别模型去死磕停顿和节奏。虽然在部分小语种上发音还不算稳定,但对于主流的中英文场景,它在低延迟、低显存和商业授权之间找到了一个极佳的平衡点。
来源 (2)
- marktechpost.com(在新标签页打开)原文marktechpost.com
- youtube.com(在新标签页打开)报道youtube.com