跳到正文
IFAI

AI科研

Nvidia 预告 D-Rex:全身数字人不仅表情逼真,还能任意换光照

首次发布 传播指数 36

Nvidia 公布全身数字人系统 D-Rex。它把表演与光照解耦,先在白光下生成带表情动作的全身 Avatar,再用扩散模型叠加目标 HDR 光照。这意味着数字人既能保持细腻神态,又能无缝融入任意虚拟场景。

Nvidia 预告 D-Rex:全身数字人不仅表情逼真,还能任意换光照
图:arxiv.org

把一个真人塞进绿幕摄影棚,最让人头疼的往往不是抠像,而是打光。背景换成夕阳黄昏,演员脸上却还顶着惨白的日光灯,那种假塑料感一眼就能看穿。

数字人也是同一个道理。4 月 30 日,Nvidia 公布了一套全新的全身数字人框架 D-Rex,全称是 Diffusion Rendering for Relightable Expressive Avatars。它想解决的正是这个老难题:既要让数字人做出极其细腻的面部表情,又要让它能在任意环境光下随意穿梭。

让表演归表演,打光归打光

过去做可重新打光的全身数字人,走的基本都是硬核物理路线。算法得把人物层层拆解,算清楚几何网格、皮肤反射率、材质粗糙度、阴影遮挡以及光线弹射。

这种把光照计算和三维建模绑死在一起的做法,极其消耗算力,更要命的是会严重牺牲表情。只要你想让脸部动起来、做点细致的喜怒哀乐,光照和几何注册就很容易打架,整张脸瞬间垮掉。

Nvidia 的思路很巧妙:干脆别在 3D 空间里死磕物理渲染了。D-Rex 把整个流程彻底拆成两段,将重打光降维成一个图像空间的后处理步骤。

第一阶段,系统只在均匀的普通白光下,训练一个极具表现力的基础数字人。这个底模什么杂乱光影都不用管,唯一的任务就是把骨骼动作、身体姿态和微妙的面部神情做到极致,输出一个类似无阴影反照率的干净渲染画面。

扩散模型充当虚拟灯光师

等数字人把动作演完了,第二阶段才轮到光照登场。Nvidia 没有去调复杂的渲染器参数,而是请出了视频扩散模型。

团队利用在光照舞台(Light Stage)里采集的成对平光与打光数据,通过 LoRA 微调了一个预训练视频扩散重打光模型。它接收前面生成的平光视频,直接把它“翻译”成匹配目标 HDR 环境光照的逼真成片。

因为生成模型自带对光影质感的理解,皮肤的次表面散射、高光移动以及衣服褶皱的阴影,全都被自然补齐了。

更妙的是,这种解耦设计几乎是即插即用的。前面负责表演的白光数字人不需要做任何特殊改动,D-Rex 可以直接套在其他现成的白光数字人系统上,同时支持自由相机视角和时序连贯性。

为什么重要

在数字人领域,3D 物理流和 2D 生成流一直各自为战。物理流姿态稳、可控性高,但质感生硬且表情呆板;生成流画面真实、光影惊艳,但往往像个不受控的盲盒。

D-Rex 的聪明之处在于,它用三维模型管住骨架、视角与表情,把最考验真实感的光影渲染全盘交给了扩散先验。这种“3D 管结构,2D 管质感”的混合架构,很可能会成为虚拟制片、游戏和远程交互领域的下一代标配工作流。

对开发者和内容创作者来说,这意味着未来不需要搭建极其沉重的实时物理光追渲染管线,就能把带丰富表情的数字人无缝嵌进任何复杂光照场景。

不过目前 Nvidia 只是公布了论文成果,并未开放开箱即用的商用工具或预训练权重。而且依赖视频扩散模型进行后处理,在遇到极快动作或边缘遮挡时,是否会像传统生成视频那样偶发噪点或轻微闪烁,仍有待工程化落地的进一步验证。

来源 (1)

  1. [1]

每日 AI 内容精选