跳到正文
IFAI

开源项目

RealWonder 开源:拉动箭头施加外力,AI 实时生成受力运动视频

首次发布 传播指数 48

开源项目 RealWonder 发布,支持在单张静态图片上施加虚拟外力,实时模拟物体在水流或风吹下的受力运动。它以物理模拟作为桥梁,在单张 H200 上达到 480p、13 帧/秒的生成速度。目前代码与模型权重均已开源。

RealWonder 开源:拉动箭头施加外力,AI 实时生成受力运动视频
图:arxiv.org

RealWonder 是一个刚开源的实时视频生成系统,它能让你在单张静态图片上直接施加虚拟外力,然后实时看物体怎么运动。

普通视频模型最大的毛病是根本不懂 3D 物理规律,你让它推一下杯子,画面可能只是凭空闪烁或直接变形。RealWonder 则允许用户像玩游戏一样在画面里拉动箭头,实时给物体施加推力、风力或水流阻力,模型立刻就会算出并生成物体随之运动的连续画面。

它能做什么

只要丢给它一张静止照片,你就能在画面中进行交互式探索。

比如在水景照片里指定一个受力方向,它就会实时生成物体顺着水流漂移的动态;给一件挂着的衣服加上风向外力,衣服就会实时飘动起来。它甚至支持同时施加多个方向的外力,比如左边推一下、右边扯一下,它都能把合成后的运动逻辑画出来。

除了施加外力,系统还支持模拟机械臂操作和相机运镜视角变化。它适用的物理材质也挺全面,涵盖了硬质刚体、可变形布料、水体流体以及沙石颗粒材料。

在生成速度上,它在单张 H200 显卡上能跑到 13.2 帧/秒,输出分辨率为 480x832。虽然 13 帧离极致流畅还有距离,但在视频生成领域,这已经基本踩进了可实时交互的门槛。

怎么做到的

让视频模型硬学物理受力往往会崩,RealWonder 聪明的地方在于引入了一套物理模拟中间层。

系统主要由三部分拼成:单图 3D 重建、物理模拟器,以及一个蒸馏过的扩散视频生成器。它没有让神经网络去硬啃抽象的连续力学参数,而是先在 3D 空间里用物理引擎做模拟,把外力翻译成光流和 RGB 视觉表征,再喂给视频生成模型。

视频生成端则把扩散步数压缩到了极致,只需要 4 步扩散推理就能出图。正是这一步蒸馏,才把原本极其耗时的生成过程拉到了 13 帧左右的实时速度。

目前 RealWonder 的代码和模型权重都已经公开发布在项目主页和 GitHub 仓库上,里面包含了完整的模型权重下载和本地部署运行说明。

为什么重要

我们认为 RealWonder 最有价值的地方,是为生成式视频找到了与真实交互绑定的落地方向。

它不再只是输入提示词抽卡看动画,而是给机器人具身智能训练、AR/VR 交互以及物理仿真提供了一个低成本单图互动的雏形。如果你在做具身智能仿真或者实时交互式视觉应用,这个项目非常值得拉下来测测它的物理反馈精度。

不过门槛也很现实:单张 H200 才能跑到 13 帧,意味着普通消费级显卡短期内很难在本地跑出可用帧率。但它证明了用物理引擎为扩散模型带路不仅走得通,而且能做到实时,同类项目后续很可能会快速跟进这条路线。

来源 (1)

  1. [1]

每日 AI 内容精选