跳到正文
IFAI

AIGC

字节预告音视频模型 Alive:声画同步一次生成,口型表情全打通

首次发布 传播指数 41

字节跳动公布音视频统一生成模型 Alive。它能同时接收文本、参考图与参考音频,直接生成口型同步且表情自然的带声视频。评测显示其综合表现超越 Sora 与 LTX2,不过目前仅公开了论文,代码与在线 Demo 尚未开放。

字节预告音视频模型 Alive:声画同步一次生成,口型表情全打通
图:arxiv.org

过去用 AI 做视频,最别扭的环节从来不是画面不够高清,而是「默片配音」。你得先让视频模型跑出一段无声画面,再找音频模型配音效,最后丢进专门的工具去硬对口型,稍有偏差就像在看粗糙的译制片。

字节跳动发布了一篇新论文,端出了一个叫 Alive 的音视频统一生成模型。从官方预告来看,它想做的事很简单:直接在生成画面的那一瞬间,把同步的声音一起给做出来。

把文本、图片与声音塞进同一个模型

除了最近大家关注的 Seedance 2.0,字节在视频生成领域的布局明显在加快。这次公布的 Alive 走的是统一多模态路径,输入端支持文本描述、参考图像和参考音频。

也就是说,你既可以纯靠一段提示词生成带声视频,也可以上传一张角色或物体的参考图,直接把它「激活」成一段能说话、有表情的动态画面。

从官方放出的样例看,Alive 生成的人物面部肌肉非常放松,发音时的口型匹配度极高,没有那种机械拉扯的僵硬感。在多模态对照测试中,字节给出了它与 LTX2、Sora 以及 VO3.1 的胜率对比图。数据显示,Alive 在运动连贯性、画面美感、提示词遵从度以及音频质量等维度上,平均胜率都稳稳压过了对手。

给扩散模型装上声画时钟

要在同一个模型里把画面和声音同时对齐,技术门槛并不低。Alive 没有从零硬造轮子,而是基于现有的文生视频模型进行改造,适配成类似 Sora 风格的音视频联合生成架构。

团队改造了业界常用的 MMDiT 架构,给它外挂了一个联合音视频分支。其中有两个核心技术点:一个是 TA-CrossAttn,专门负责在时间维度上把音频和画面特征融在一起;另一个是 UniTemp-RoPE,像一个精准的时钟位置编码,确保声音节拍和嘴唇动作分秒不差。

为了喂饱这个架构,团队搭建了一整套音视频自动打标和质量筛选管线,最终在百万级高质量数据上做了持续预训练和微调。

不过,目前大家能看到的还只是预告和论文。虽然项目主页挂出了 GitHub 入口,但仓库里还没有任何开源代码,在线 Demo 也依然标着即将上线。

为什么重要

我们认为,AI 视频生成正在快速告别「两道工序」的拼凑时代。过去把画面和音效切开生成的方案,不仅流程繁琐,而且永远无法解决声画在物理层面的因果对应。Alive 证明了在扩散模型内部原生对齐音视频是完全可行的,这会倒逼其他主流玩家加速跟进原生多模态生成。

对创作者来说,真正的价值在于制作门槛的断崖式下跌。如果一个角色只要一张静态立绘就能同时开口说话、带着自然环境音动起来,短剧生产和独立动画的制作周期会被压缩到几分钟以内。

但眼下我们建议大家保持理性观望。一方面,官方给出的对比胜率固然漂亮,但自选评测集往往带有挑选偏向;另一方面,代码和 Demo 都还没开放,百万级多模态模型的本地部署门槛绝不会低。Alive 究竟是一次技术实力的纯展示,还是一个很快能上手的生产力工具,还得看后续实际开放的成色。

来源 (1)

  1. [1]

每日 AI 内容精选