跳到正文
IFAI

AI科研

Adobe 与 JHU 发布视频世界模型 Wonder:单图实时生成可交互场景

首次发布 传播指数 36

Adobe 与约翰霍普金斯大学公布视频世界模型 Wonder。输入一张图片或视频,它能以 16 FPS 实时生成可漫游的世界。最值得关注的是它解决了相机精准控制与长程记忆问题,用户转一圈探索新区域再走回来,原来的景物依然保持一致。

图:youtube.com

想象一下,你随便拍一张街景照片扔给电脑,按一下键盘上的 W 键,就能像玩第一人称游戏一样直接走进照片深处。拐过街角探索完一圈再退回来,最初那家咖啡馆的招牌依然稳稳立在原地。

这不是游戏引擎预先烘焙好的 3D 资产,而是视频生成模型在实时一帧帧硬算出来的画面。2026 年 7 月 28 日,Adobe 联合约翰霍普金斯大学发布了全新的视频世界模型 Wonder,主打的就是这种低延迟、高一致性的实时可交互探索。

只要给一张静止图像或一段参考视频,Wonder 就能在 0.5 秒恒定延迟下,以每秒 16 帧的速度持续生成画面。你甚至可以用键盘随意调整 6 自由度机位,在生成的虚拟空间里自由游荡一分多钟,场景依然不会崩塌。

把相机动作变成画面喂给 AI

今年世界模型赛道非常热闹,Google 的 Genie 3 以及 Matrix 等项目都在死磕实时生成。但大家普遍卡在两个老大难问题上:相机控制不听话,以及模型转头就忘事。

以往的做法通常是把相机的空间坐标和旋转角度变成一串数字喂给模型,但神经网络对纯数学位姿的感知非常迟钝,稍微晃一下机位,画面就容易漂移甚至变形。Wonder 换了个聪明的思路,引入了一套稠密坐标场系统,直接把相机的平移和旋转渲染成逐帧对齐的 3D 视觉信号。说白了,AI 不是在读枯燥的数据,而是亲眼看见了相机正在怎么移动。

另一个让人头疼的问题是记忆力。很多人玩过视频生成就知道,AI 镜头往前推容易,但只要转一圈再回过头,刚才的房子可能就变成了大树。Wonder 在生成过程中保留了完整的历史键值缓存,并通过高效的稀疏注意力机制做按需检索。无论镜头在虚拟世界里晃荡了多久,每一步推断需要调用的上下文计算量都保持恒定,这也是它能把延迟牢牢锁死在 0.5 秒的关键。

为了兼顾画质与速度,团队将庞大的教师模型蒸馏成轻量学生模型,并结合多学生专家混合架构和 GAN 正则化来修补漂移,尽量留住大模型原有的画面多样性与稳定性。

现成视频也能拿来重新拍摄

除了给一张图生成世界,Wonder 还有个让人眼前一亮的能力:以一段现成的视频作为输入,进行视频到视频的实时重拍。

在公开的演示中,输入一段原有的打斗动作镜头,Wonder 能保留角色原本的动作轨迹,同时允许用户在键盘上敲击方向键,实时切换全新的机位与视角来环绕观察。这意味着你可以像拿着摄像机在真实片场穿梭一样,把一段二维视频重新机位调度一遍。

不过从目前的生成效果来看,它离真正商用还有肉眼可见的差距。在动漫风格、数字艺术以及写实场景的测试里,画面的边缘位置依然存在明显的噪点与模糊伪影,精细纹理在剧烈移动时偶尔还会出现闪烁。

此外,项目页面虽然挂出了代码与模型即将发布的字样,但有社区观察者指出,Adobe 过去在开源核心大模型上的动作并不算积极,这次究竟是彻底开放权重还是只放 demo,还需要等官方进一步兑现。

为什么重要

如果说之前的文生视频工具更像在生成一段段不可修改的录像带,那 Wonder 这类世界模型就是在生成一套具有物理空间感的可交互环境。

对影视创作者和游戏开发者来说,这种实时机位变换的价值非常直接。以后做早期镜头预演或游戏场景原型设计,可能不再需要耗费几天时间去搭建 3D 白模,丢一段粗剪视频或几张概念图进去,就能实时调整摄影机机位寻找最佳构图。在机器人仿真和自动驾驶训练中,这种能对操作做出合理反馈的实时生成环境同样极具想象力。

从行业竞争来看,Wonder 证明了通过视觉化相机条件和稀疏检索记忆,世界模型的长程一致性是可以被工程手段有效压制的。它不再盲目追求离线渲染的极致画质,而是把重心放在了高帧率与极低延迟的交互体验上。

我们认为,目前最大的不确定性依然在于 Adobe 的开源态度和实际算力门槛。如果后续只提供封闭 API 或云端演示,开发者很难将其真正集成到复杂的工业流水线中;而一旦模型能够本地部署并结合实时神经渲染技术,传统 3D 资产制作的生产关系很可能会被彻底改写。

来源 (2)

  1. [1]
    arxiv.org(在新标签页打开)原文arxiv.org
  2. [2]
    youtube.com(在新标签页打开)报道youtube.com

每日 AI 内容精选