跳到正文
IFAI

开源项目

腾讯开源 Covo-Audio:7B 端到端语音模型,支持全双工边听边说

首次发布 传播指数 48

腾讯开源 7B 参数端到端音频大语言模型 Covo-Audio-Chat。模型采用单一架构直接处理连续音频输入与输出,支持原生低延迟全双工交互,能做到边听边说和实时打断。代码与模型权重已在 GitHub 和 Hugging Face 开放。

腾讯开源 Covo-Audio:7B 端到端语音模型,支持全双工边听边说
图:huggingface.co

Covo-Audio 是腾讯开源的 7B 参数端到端音频大语言模型。它不用传统语音识别拼接大模型再接 TTS 的级联方案,而是用一套统一架构直接接收连续音频并生成音频,把全双工对话和实时打断做进了模型原生能力里。

这次在 GitHub 和 Hugging Face 开放的是 Covo-Audio-Chat,包含代码、预训练权重以及支持原生低延迟全双工的变体方案。

它能做什么

大多数语音助手跟你聊天时,必须等你彻底闭嘴才能开始生成回复,体验就像在对讲机里按键喊话。

Covo-Audio-Chat 主打的就是原生全双工交互。换句话说,你在说话的同时它已经在听,它说话的当口你也随时能插话打断,整个过程没有明显的往返断层。

为了兼顾语义和音色,腾讯在底层做了一套分层三模态交错机制。模型把连续的声学特征、离散的语音 token 和自然语言文本串在同一个序列里处理,既保留了语调、停顿这种微小的韵律细节,又守住了大模型原有的语言理解能力。

另一个聪明的改动是把说话人音色和对话智力解耦。很多语音模型换个好听的声音智商就下降,或者聪明的声音听起来特别机械。Covo-Audio 靠多发音人训练和上下文自适应,把对话能力和音色分开,让优质声音可以自由迁移共享。

在基准测试上,这个 7B 架构在口语对话、语音理解、通用音频理解以及全双工交互等任务中,拿到了同等参数规模下领先或极具竞争力的成绩。

怎么跑起来

想要部署 Covo-Audio,环境要求 Python 3.11 或以上版本。

你只需要从腾讯的 GitHub 仓库拉取 Covo-Audio 代码,安装依赖后,再通过 Hugging Face Hub 下载 tencent/Covo-Audio-Chat 权重到本地对应目录。

官方给出了现成的一键推理脚本 example.sh。把脚本配置中的模型路径改好,把测试音频换成你自己的音频文件,就能跑通一次完整的端到端语音交互。

需要留心的是,官方在免责声明里明确注明,Covo-Audio-Chat 目前仅供研究与实验用途。生成的内容依然可能存在偏差或不准确,实际落地前需要开发者自己做好验证。

为什么重要

端到端全双工是智能语音公认的下一个终局,但此前大部分好用的原生方案都锁在大厂内部,普通团队只能用传统的三段式流水线去硬凑伪双工。

腾讯把 7B 级别的全双工模型连代码带权重开源出来,对想做陪伴硬件、电话代理或实时语音翻译的开发者来说是个及时的轮子。7B 的体积适中,不需要堆叠昂贵的推理集群就能跑起来。

不过这类端到端模型在真实场景下面临的最大考验从来不是跑分,而是嘈杂背景下的打断误判与幻觉控制。它适不适合进你的生产系统,最好先拿实际通话录音跑一跑。

来源 (1)

  1. [1]
    huggingface.co(在新标签页打开)原文huggingface.co

每日 AI 内容精选