Hume AI 开源语音模型 TADA:比同类快 5 倍且零幻觉,手机就能跑
Hume AI 开源语音语言模型 TADA。它将每个文本 token 与声学向量一对一绑定,生成速度比同类方案快 5 倍以上,在千余测试样本中做到零幻觉。最关键的是它轻量到可在手机等端侧设备直接运行,且 2048 token 窗口能容纳约 700 秒音频。
TADA 是 Hume AI 开源的一款语音语言模型,全称是 Text-Acoustic Dual Alignment。它最大的卖点,是把文本 token 和连续声学向量做成了一对一绑定,让基于大模型的语音合成第一次跑得又快、又省资源,而且在千余个测试样本里做到了完全不胡说八道。
目前官方已经把代码和预训练权重全部放了出来,支持中文等 10 种语言,甚至轻量到可以直接塞进手机和边缘设备离线跑,不用依赖云端 API。
它是怎么做到既快又不结巴的
传统的 LLM 语音合成方案有一个天生缺陷:一秒钟的音频包含的信息量远大于文本。一秒文字可能只有两三个 token,但对应的声音切片往往需要 12.5 到 75 个声学帧。这导致模型上下文迅速被声音挤爆,推演慢、显存吃紧,稍微走神就会吞字、漏字甚至自己加戏。
TADA 换了个思路。它不再把音频切碎成大量的离散编码,而是直接将音频特征对齐到对应的文本 token 上,一个文字 token 对应一个连续声学向量,两者在模型内部步调一致地推进。
输入音频时,编码器和对齐器把每个文字 token 对应的声音特征抓出来;输出音频时,语言模型的最终隐藏状态直接作为条件向量,喂给流匹配(flow-matching)模块还原成音频。因为每一步都严格一一对应,模型在结构层面就彻底断绝了跳字或凭空造词的可能。
性能、规格与已知短板
在推理速度上,TADA 的实时率(RTF)达到了 0.09,比同级别的 LLM 语音合成系统快了 5 倍以上。这主要归功于它每秒音频只需处理 2 到 3 帧,计算量被大幅压缩。
在 LibriTTSR 数据集的 1000 多个样本测试中,按照字符错误率超过 0.15 就算幻觉的标准,TADA 的幻觉率为零。同时它还能实现同步转录,生成声音的当口文字就同步输出了,不需要额外再挂一个语音识别模块。
更亮眼的是上下文效率。同样是 2048 token 的上下文窗口,传统方案撑大约 70 秒音频就见底了,而 TADA 可以塞进大约 700 秒的音频,支撑长文本朗读和多轮对话毫无压力。在 EARS 数据集的人工评测中,它的音色相似度拿到 4.18 分,自然度拿到 3.78 分,综合排名第二,超越了不少用更多数据训练的竞品。
不过它目前也有局限。当音频长度拉得太长时,可能会出现说话人音色漂移的问题。官方虽然用在线拒绝采样减轻了这一现象,但还没有彻底解决,目前的建议是在长对话中适时重置上下文。
为什么重要
对开发端侧硬件、车载语音或注重隐私的本地应用的团队来说,TADA 是一个非常值得立刻跟进的轮子。它把原本必须跑在云端大算力集群上的高质量语音交互,压到了手机甚至嵌入式芯片能承受的量级,从根本上省掉了网络延迟和接口调用费用。
我们认为,TADA 最聪明的在于它没有继续在音视频切片压缩的死胡同里打转,而是用一对一对齐从架构根源上掐死了幻觉。对于医疗、金融这类对错字零容忍的严苛场景,这种靠结构保证可靠性的方案,显然比单纯堆砌数据后训练来得更加踏实。
来源 (1)
- hume.ai(在新标签页打开)原文hume.ai