跳到正文
IFAI

开源项目

Fish Audio 开源 Drama 3:单段支持 16 人分饰与局部音频修改

首次发布 传播指数 48

Fish Audio 开源新一代语音大模型 Drama 3。该模型采用 35B 参数的 MoE 文本骨干,单段文本最多可容纳 16 个不同角色,并支持通过标签控制叹气等情绪。改词时无需整段重录,可直接顺着上下文局部替换。

Fish Audio 开源 Drama 3:单段支持 16 人分饰与局部音频修改
图:huggingface.co

Fish Audio 开源了新一代文本转语音模型 Drama 3,专门用来做多角色配音和长篇有声内容生成。

以往绝大多数开源语音模型只有几亿到几十亿参数,通常只能单人朗读。Drama 3 最大的不同,是能在一整段文本里靠角色标签最多同时切分出 16 个不同角色的声音,一人分饰多角,适合用来做广播剧、对话节目或小说旁白。

它能做什么

除了多人同台,Drama 3 还在提示词里加入了更细致的情绪和行为控制。

你可以在文字中间直接插入叹气、大笑这类标签,比如写上 sigh 或 laughs,模型就会在对应位置发出逼真的叹息和笑声,语气不再像传统的死板朗读机器。用户只要提供一段简短的参考音频,它就能克隆对应音色。

另一个非常省心的地方是音频局部修改,像改文档一样方便。以前如果念错了一个词,往往得把整段音频甚至整章重跑一遍;Drama 3 支持把之前的音频 token 放回上下文,只改动有变动的词,模型会顺着前后的语流和语调把新词接上。

遇到长篇大论时,系统会自动切块并支持流式生成,不需要等整本小说跑完才开始播放。

怎么跑起来与性能表现

Drama 3 的底座是一套 35B 参数的 MoE 文本模型,但在生成时每个 token 只有 3B 参数处于激活状态。它的音频解码器采用了 10 个 codebook 的因果解码架构,MoE 专家层用 FP8,其余权重用 bf16。

别看模型总参数有 350 亿,因为只激活 3B,社区有用户反馈最低用 8GB 显存就能在本地跑起来。

在服务端部署上,Drama 3 上线当天就原生支持了 SGLang-Omni 和 vLLM-Omni。官方在单张 NVIDIA H200 上的实测数据显示,单并发下的首包音频延迟不到 100 毫秒;在 16 并发下,生成速度依然比实际播放快 2.7 倍;就算压到 64 并发,平均实时率 RTF 依然能保持在 0.8 左右。

如果并发冲到 128 或 256,还可以把声码器单独丢到第二张显卡上,吞吐量能提升约 72%,首包音频的中位数等待时间也能缩短 37%。

目前 Drama 3 的模型权重已经在 Hugging Face 上开放下载,采用 Fish Audio Community License 许可证。在 Artificial Analysis 的开源语音模型榜单上,Drama 3 目前位居第一。

为什么重要

对于做广播剧、游戏配音或有声书的独立开发者和创作者来说,Drama 3 解决了以往开源配音最头疼的两个痛点:多角色音色打架,以及读错一个字就得整段重录。

把它做成 35B 总参数但只激活 3B 的 MoE 架构,是个很聪明的折中。它既靠大参数量吃透了复杂的角色切换和语义停顿,又没把本地部署的显存门槛抬到普通人摸不起的高度。如果你手里有张中高端显卡,正想做自己的有声剧工作流,这套模型非常值得现在下载下来跑一跑。

来源 (2)

  1. [1]
    huggingface.co(在新标签页打开)原文huggingface.co
  2. [2]
    youtube.com(在新标签页打开)报道youtube.com

每日 AI 内容精选