数字人模型 FlowAct-R1 发布:延迟 1.5 秒,支持 25fps 实时无限长直播
研究团队推出交互式数字人模型 FlowAct-R1,支持流式生成无限时长的数字人视频。它采用自回归架构与记忆机制,实现 25fps 的 480p 实时生成,首帧延迟约 1.5 秒且动作自然。这意味着低延迟数字人直播和实时交互迈出了关键一步。
如果你看过现在的数字人带货,大概很熟悉那种尴尬:主播要么像个设定好动作的木偶在机械循环,要么你发一条弹幕提问,对方要愣上好几秒才能接话。
算力吃紧和动作漂移,一直是实时数字人迈不过去的坎。现在,研究团队推出了交互式数字人模型 FlowAct-R1,试图彻底打破这个僵局。
第三方报道称该成果出自字节团队。从公布的数据来看,FlowAct-R1 实现了 25fps 的 480p 实时流式视频生成,首帧延迟(TTFF)仅约 1.5 秒,而且支持不限时长的无限生成。
在人工偏好评测中,它在实时流式、无限时长和动作自然度三个维度上均超过了现有的 SOTA 方法。
把重型模型改造成连环打工人
让高质量视频模型实时跑起来,技术上并不容易。以往基于全注意力机制的 DiT 模型虽然画质好,但推理速度慢,根本无法做实时对话。
FlowAct-R1 的核心思路是改造架构。研究团队通过自回归自适应,把基础的 DiT 转换成流式自回归模型,并配合多阶段扩散蒸馏,大幅削减了生成步骤。
口型对不上、身体动作僵硬是数字人的老毛病。团队引入了音频与动作的联合微调,让数字人在听到语音输入时,不仅能对齐唇形,还能做出自然的肢体动作。
更棘手的问题是长视频崩溃:很多模型生成几分钟后,人脸就会变形。FlowAct-R1 在推理端搭建了一套结构化记忆库。
这套记忆库拆成了参考记忆、长短期记忆和去噪流。配合分块自回归生成和记忆精炼,模型生成再久也不会忘记自己原来的长相和姿势,从而实现了真正意义上的无限时长生成。
为什么重要
我们认为,FlowAct-R1 的突破不在于画质上限有多高,而在于它切准了实时交互的工程痛点。
480p 的分辨率听起来并不惊艳,但它在 25fps 下把首帧延迟压到了 1.5 秒。在手机屏幕、电商直播或即时通讯界面里,流畅无顿挫的即时反应远比一张静态高精度的脸更重要。
对直播带货、AI 客服和虚拟陪伴领域来说,这意味着数字人终于从「提前渲染好的录播视频」走向了「真能听懂并立刻反应的实时互动」。创作者不用再花几个小时预渲染成片,接入系统就能直接开播。
对行业而言,它会倒逼现有的数字人方案全面转向流式生成。以前比拼的是谁的静态特写更逼真,以后比拼的则是谁的延迟更低、长时间运行更稳定。
当然,局限也客观存在。目前展示的 480p 规格如果放到大屏端使用仍显单薄,而且真正面对大规模并发直播时,GPU 的部署成本究竟有多高,依然需要实际商用场景的检验。
来源 (1)
- grisoon.github.io(在新标签页打开)原文grisoon.github.io