跳到正文
IFAI

AI科研

MoVerse:一张图变 360° 全景世界,RTX 4090 跑出 8 帧实时漫游

首次发布 传播指数 36

研究人员公布视频世界模型 MoVerse,仅凭单张普通图像即可构建支持实时交互漫游的 360° 3D 场景。模型将空间构建与视频渲染解耦,借助 3D 高斯技术,在单张 RTX 4090 显卡上实现每秒 8 帧实时渲染。目前代码与模型仍在合规审查中,预计后续开源。

MoVerse:一张图变 360° 全景世界,RTX 4090 跑出 8 帧实时漫游
图:arxiv.org

拿出一张随手拍的街景照片,现在的生成式 AI 顶多能帮你把它变成一段几秒钟的预设镜头视频。

但如果能直接按动方向键,走进照片背后的 360° 世界里随意漫游,事情就变得完全不一样了。

研究人员公布了视频世界模型 MoVerse。它的核心卖点非常纯粹:只要给它一张普通的窄视角图片,它就能现场捏出一个能实时交互、自由探索的 3D 全景空间,而且在单张消费级显卡 NVIDIA RTX 4090 上,可以稳稳跑出每秒 8 帧。

先补全空间记忆,再解决画面渲染

以往的世界模型想要做到可交互漫游,最大的死穴在于既要维持远距离空间几何一致,又要保证实时输出画面,计算量往往大到必须依赖昂贵的云端集群。

MoVerse 之所以能在单张消费级显卡上跑起来,关键在于它把「世界构建」和「视频渲染」彻底拆成了两码事。

模型拿到一张窄视角照片后,第一步并不是直接猜下一秒的画面,而是利用拓扑感知扩散模型,把缺失的周围环境补齐,扩展成一张对齐重力的 360° 全景图。

接着,它会通过几何感知残差预测,把这张全景图直接升维成持久的 3D 高斯支架(3D Gaussian scaffold)。这个结构就像是整个场景的致密空间记忆,哪怕镜头转开再转回来,房子和树木依然在原位。

有了这个稳固的空间底座,最后一步才轮到视频渲染。研究团队用双向扩散模型做教师,蒸馏出一个因果自回归学生模型,专门按照用户实时输入的相机轨迹串流出连贯视频,从而将交互延迟严格压在极低范围内。

根据团队展示的效果,这项技术对输入风格并不挑剔,无论是写实场景、卡通 3D,还是油画乃至吉卜力手绘风格,都能顺利生成全景漫游。

消费级硬件跑得动,但画面还很糙

单张 RTX 4090 能达到每秒 8 帧,这个速度虽然还没到电竞级的流畅,但已经跨过了「能用手柄或键盘实时操控」的交互门槛。

不过,天下没有免费的午餐,MoVerse 目前的妥协也写在脸上。

从现阶段演示来看,生成画面的分辨率普遍偏低,贴图细节有些模糊,边缘也偶尔能看到伪影。它解决的是「空间连贯与实时交互」的底层骨架,暂时还顾不上顶级的画质呈现。

至于什么时候能亲自上手,主页上已经放出了代码入口。项目团队表示,代码和模型目前正在接受公司内部的合规审查,预计耗时一个月左右,审核完成后会把所有材料对外公开。

为什么重要

这几年大家看了太多生成短视频的 AI,它们画质惊艳,但用户只能当观众,根本无法决定镜头下一秒往哪走。

MoVerse 的价值在于给世界模型找到了一条极其务实的工程路径。纯神经渲染的世界模型太慢,纯 3D 重建又缺少生成模型的泛化想象力,而 MoVerse 聪明地选择了折中:用 3D 高斯做可复用的显式空间记忆保底,再用蒸馏后的视频生成模型负责贴皮渲染。

对于独立开发者和游戏创作者来说,这意味着单图生成可漫游场景原型的门槛被砸到了地板上。你不需要先去租高配云端服务器,一台带 4090 的主力机就能跑起交互雏形。

我们认为,当前 8 帧和偏模糊的画质并不会阻碍它的示范意义。在空间计算和交互世界模型的赛道上,先把延迟压进可交互区间,再回过头来堆画质,往往才是真正能跑通产品化的打法。

来源 (1)

  1. [1]

每日 AI 内容精选