UniVid-X 视频框架发布:不仅能抠像换背景,还能重构光照与表面法线
研究团队提出视频多模态框架 UniVid-X。它不仅能生成 RGB 视频,还能直接解析和生成物体的基础颜色、光照信息、表面法线以及前后景 Alpha 通道。这意味着只需输入一段视频,就能精准完成角色替换、背景抠像甚至黄昏重打光等精细编辑。

现在的 AI 视频生成器很多,但生成出来的东西就像一张被压平的油画,如果你想给视频换个夕阳打光,或者把主角单独抠出来,基本只能干瞪眼。
研究人员公布了一项多模态视频框架 UniVid-X,试图从根本上解决这个问题。它没有把视频当成死板的彩色像素,而是让同一个模型同时理解画面的几何结构、光影和图层关系。
把画面拆成光照、法线与透明图层
UniVid-X 本质上依然是一个视频扩散模型,但它掌握了图形学里的核心内在属性。它不仅能输出普通的 RGB 彩色视频,还能同步生成物体的 albedo(基础固有色)、irradiance(光照信息)以及 normal(表面朝向法线)。
除了光影与几何,它还能精准识别视频中的前景与背景,并直接生成 alpha 透明度通道。这相当于在生成视频的同时,把合成师需要的图层全都分好了。
在实际演示中,你给系统一段普通视频,模型就能解构出它的法线和光照。如果你输入一句“黄昏阳光”,它就能在保持画面结构不变的前提下,给整个场景重新打光。
想要换角色或换背景也很直观。利用它分离出的高质量前景和背景通道,你可以直接把房间里的角色替换掉,或者把现实背景换成另一处场景。论文实验显示,UniVid-X 在表面法线估计和视频抠像的准确度上,都明显超过了现有的竞品。
不到一千条视频,怎么做到底层理解
以往处理这类任务,行业习惯是各个击破:做抠像的训一个模型,做光照的训另一个,导致输入和输出关系被彻底锁死,跨模态之间的信息也无法互通。
UniVid-X 提出了三个关键机制来打破这种限制。首先是随机条件遮罩(SCM),在训练时随机把不同模态划分为已知条件和待生成目标,让模型具备全向条件生成能力,不再被固定任务束缚。
其次是解耦门控 LoRA(DGL),为每个模态单独配备微调参数,只有在生成特定目标时才激活,从而保护了主干模型原有的视频生成先验。
最后是跨模态自注意力(CMSA),让不同模态在共享键和值的同时保留各自的查询,保证了光影和几何信息在生成过程中的严格对齐。
基于这些设计,团队推出了面向内在属性的 UniVid-Intrinsic 和面向透明图层分离的 UniVid-Alpha 两个分支。令人意外的是,模型仅仅使用了不到 1000 个视频进行训练,就能在各种复杂的真实户外场景里稳定泛化。
为什么重要
对视频剪辑师、后期特效人员和 3D 创作者来说,这正是生成式视频走向工业化所缺失的一环。以往 AI 生成的视频几乎没有可编辑性,而 UniVid-X 直接输出了法线、底色和透明通道,让 AI 视频第一次能真正对接传统后期合成与 3D 渲染流程。
对整个行业而言,这指明了一条更聪明的技术路径。它证明了不需要为抠像、打光、法线估计分别训练庞大的专用网络,视频扩散模型本身的先验知识,完全可以通过巧妙的模态对齐统一调度。
我们认为 UniVid-X 最亮眼的地方在于效率。很多团队在死磕海量训练数据,而它靠不到 1000 条视频就跑出了极强的真实场景泛化能力。不过这一成果目前主要停留在学术验证阶段,未来推向工业管线时,如何保证超长视频的时序一致性以及降低推理算力消耗,仍然需要持续观察。
来源 (1)
- arxiv.org(在新标签页打开)原文arxiv.org