跳到正文
IFAI

AI科研

Generative World Renderer:靠一段文字,直接重塑 3A 游戏画面与光照

首次发布 传播指数 36

研究团队发布 Generative World Renderer,从《黑神话:悟空》等 3A 游戏中提取了 400 万帧 G-buffer 数据。结合文本提示词,它能直接重塑游戏画面的材质、天气与光照。最值得关注的是,借助完整的几何与法线信息,创作者无需重新建模就能修改游戏风格。

Generative World Renderer:靠一段文字,直接重塑 3A 游戏画面与光照
图:huggingface.co

想把《黑神话:悟空》里苍凉的古刹直接换成赛博朋克霓虹风,以前得靠美术团队重新做材质、调光照,折腾好几个月。

现在有人换了个思路:既然 3A 游戏本来就有现成的空间和表面数据,为什么不把这些信息直接塞给 AI?

研究团队公布了 Generative World Renderer。它从《黑神话:悟空》和《赛博朋克 2077》这类顶级 3A 游戏里,抓取了整整 400 万帧高质量图形数据。创作者只需要敲一行文本提示词,就能直接重塑游戏画面的风格、天气甚至整体光照。

撬开 3A 游戏的图形底盘

过去的视频生成模型给画面做风格重绘,最大的问题是画面容易飘、闪烁,背景里的柱子走两步就变形。说白了,就是因为 AI 只认像素,根本不懂场景里的物体到底长在什么位置。

研究团队用了一套双屏拼接抓取的方法,从游戏底层提取出 400 万帧同步的 RGB 画面和 5 个通道的 G-buffer 数据,规格达到了 720p 和 30 FPS。

所谓 G-buffer,就是游戏引擎用来记录场景物理属性的缓冲数据。里面不仅有画面颜色,还包含场景深度、物体表面朝向的法线、基础固有色 Albedo,以及金属度和粗糙度。

有了这套底层几何结构打底,AI 相当于拿到了一份带有三维空间标记的底稿。不管你在上面怎么改风格,物体的空间位置和朝向都不会穿帮。

一句话重做光照和环境

有了这些数据,这个系统能干两件事。

第一件事是正向渲染。你把提取好的 G-buffer 喂给它,输入一句提示词,就能把《黑神话:悟空》的原有场景改成沙地荒漠,或者加上漫天的轻雾、飞舞的余烬和萤火虫。

第二件事是逆向渲染与重新打光。模型学会了把普通画面的光影剥离掉,还原出干净的基础材质。结合环境贴图,创作者可以直接改变游戏片段里的光源方向与天色,连天空区域的光照过渡都表现得非常连贯。

为了验证改出来的画面到底好不好,团队还设计了一套基于视觉语言模型(VLM)的评估方案,在没有标准真值对比的情况下,也能从语义、空间和时间连续性三个维度给画面打分。

为什么重要

我们认为,这项研究走得非常聪明,它避开了从零生成视频的算力黑洞,找准了游戏引擎与生成式 AI 结合的甜点位。

对游戏开发者、独立制作人和 Mod 创作者来说,这意味着概念设计和氛围验证的成本被断崖式拉低。以前想看一个关卡改换夜景或废土风是什么效果,得在引擎里调半天材质球,现在用文字跑一段渲染就能快速看 Demo。

对整个行业而言,纯靠扩散模型死磕时间一致性已经撞上了瓶颈。Generative World Renderer 证明了一件事:把成熟图形管线里的 G-buffer、法线和深度信息拿来做引导约束,比纯靠模型自己脑补几何逻辑要靠谱得多。

不过目前这套方案还停留在离线视频和 720p 分辨率阶段,离游戏运行时的即时交互还有不小距离。但它给下一代实时神经渲染,撕开了一个非常实在的口子。

来源 (2)

  1. [1]
    huggingface.co(在新标签页打开)原文huggingface.co
  2. [2]
    alaya-studio.github.io(在新标签页打开)报道alaya-studio.github.io

每日 AI 内容精选