跳到正文
IFAI

开源项目

Pulse of Motion:测算真实物理帧率,矫正 AI 视频的「计时幻觉」

首次发布 传播指数 48

研究团队开源 Pulse of Motion,专门解决 AI 视频动作过快或过慢的「计时幻觉」。该模型不到 2GB,能直接从画面运动推算出真实的物理帧率,并据此校正播放节奏。普通消费级设备就能跑,让 AI 画面里的动作真正符合现实物理规律。

图:xiangbogaobarry.github.io

你看现在的 AI 生成视频,画面已经逼真到能骗过眼睛,但只要盯着看两秒,总会觉得哪里怪怪的。

有的动作像在太空漫步,慢得违背物理常识;有的动作又快得像按了快进键。3 月 15 日,Texas A&M University 的研究团队把这个问题翻了出来,并开源了一个轻量级模型 Pulse of Motion,专门给 AI 视频找回现实节奏。

为什么 AI 视频总在「瞎猜时间」

研究团队把这种毛病叫做「计时幻觉」(Chronometric Hallucination)。说白了,就是生成模型只有一副好皮囊,脑子里却没有一块靠谱的时钟。

造成这个问题的根源在训练数据上。网上的视频拍摄速度五花八门,有的原本是慢动作升格,有的做了缩时摄影。但在喂给 AI 训练时,往往全被简单粗暴地统一压成了固定的帧率,比如 24 帧或 16 帧。

久而久之,AI 学会了物体长什么样、动作怎么过渡,却根本不知道现实世界里重力有多快。在它的理解里,蜂鸟扇动翅膀和人在地上摔倒,播放起来可能没什么时间差别。

让不到 2GB 的小模型去测算重力

Pulse of Motion 的思路很直接:不再教视频模型怎么重新画画,而是给它配一个专门测算现实运动节奏的尺子。

这个模型不到 2GB,普通消费级设备就能轻松跑起来。它会直接观察画面里的动态细节,反向推算出这个动作在现实物理世界里到底应该对应多少帧率,也就是「物理帧率」(Physical FPS)。

算出来之后,只要把视频按照这个真实帧率重新定时,观感就会瞬间正常。比如在团队给出的对比中,原先 24 帧的蛇在地板上滑行,实际物理帧率应该高达 60.2 帧;油锅里炸洋葱圈的视频,也从 24 帧修正到了 58.9 帧,那种原本发飘的慢动作立刻有了真实油花飞溅的爆裂感。

而在一些原本被过度加速的场景里,比如渔网中垂死挣扎的鱼,模型测出的物理帧率只有 15.0 帧;雨滴打在绿叶上的场景则从 16 帧微调到 21.1 帧。研究人员发现,通用的多模态大模型在判断时间节奏上非常不靠谱,必须依靠这种专用的运动预测器。

目前团队不仅公开了代码和权重,还上线了测试生成视频运动一致性的排行榜。

为什么重要

我们认为 Pulse of Motion 走了一条非常聪明的后处理路线。

现在各大模型厂商都在卷更大的参数量、更高的分辨率,试图靠死磕算力来让模型「顿悟」物理规律。但现实证明,端到端的黑盒训练在时间维度上依然漏洞百出。Pulse of Motion 没有去硬刚重训底层模型的万卡集群,而是用不到 2GB 的极小代价,在后处理阶段把动作节奏拉回地面。

对于视频创作者和特效从业者来说,这个工具非常实用。以前生成的视频动作发虚,只能靠人工在剪辑软件里一点点拉变速曲线,现在直接跑一遍脚本就能获得符合物理节奏的底片。

不过它目前本质上还是一个后处理校正器,如果原始视频生成时就已经严重丢帧或动作扭曲,光靠调速也救不回缺失的形变细节。但它明确指出了现有视频模型的一大盲区,未来的新一代生成模型,大概率不得不把物理时间建模真正写到底层架构里去。

来源 (2)

  1. [1]
    t.co(在新标签页打开)原文t.co
  2. [2]
    xiangbogaobarry.github.io(在新标签页打开)报道xiangbogaobarry.github.io

每日 AI 内容精选