4DAnyone:一段普通视频,转成能自由旋转的 4D 角色
开源项目 4DAnyone 发布,只需输入一段单目人物运动视频,就能重建出可任意角度观察的 4D 高斯泼溅模型。它通过提取骨骼引导多视角生成,细节和一致性优于以往同类方案,目前已开源代码及约 12GB 模型权重。

4DAnyone 是一个刚开源的动态三维重建工具。你只要随手拍一段单目人物运动视频,它就能把画面里的人提取出来,转换成一个可以 360 度自由旋转、放慢拉近观察的 4D 角色模型。
说白了,它输出的不是普通的 3D 骨骼网格,而是一套带动作信息的 4D 高斯泼溅(4D Gaussian Splatting)资产。不管是不同体型的人物还是飘逸复杂的服装,它都能直接处理。
它是怎么把单目视频变活的
以往用单镜头视频做动态重建,最大的痛点是视角一多就崩溃。过去像 ReCam Master 或者 Trajectory Crafter 这类模型,生成两三个视角看着还行,但要重建高质量的 4D 高斯泼溅,往往需要几十个视角的连贯画面,模型注意力窗口一超载,角色就会变形、飘移。
4DAnyone 的做法分三步。首先,它会从输入的原始视频中提取一套 3D 骨骼信息。
接着,系统用这个骨骼结构作为空间坐标,引导视频扩散模型去脑补其他全新角度的画面。为了防止视角之间各画各的,研发团队设计了两个关键机制:一个是把历史参考视角压缩成固定长度的混合分辨率上下文(RCP),计算复杂度直接压到常数级;另一个是在去噪过程中轮换目标视角的分组(TCR),高噪声阶段共享大框架,低噪声阶段锁死纹理细节。
最后,模型把这些视角全部统一起来,直接拟合成高精度的 4D 高斯泼溅动态角色。
规格、开源程度与上手门槛
在 DNA-Rendering 和 DyMVHumans 这类基准测试里,4DAnyone 无论是生成的全新视角视频质量,还是最终重建出的 4DGS 动态细节,表现都明显好过之前的方案。训练数据除了实测棚拍和自然视频,团队还用自己的游戏引擎专门搭了一套 MVGameHuman 数据集来强化泛化能力。
项目目前已经在 GitHub 和项目主页上开源了全部内容,包括完整代码、本地运行教程以及约 12GB 的模型权重。
对于想要本地部署的开发者来说,12GB 的模型体量意味着你需要一张显存相对宽裕的桌面或服务器显卡。虽然它支持普通手机单目视频输入,但因为涉及骨骼提取和多视角扩散生成,本地算力门槛并不算低。
为什么重要
如果你在做游戏资产原型、虚拟人或者视觉特效,4DAnyone 值得你立刻拉下来跑一跑。以往要抓一个动态 4D 角色,非得进专业的光场或多相机阵列摄影棚不可,成本动辄几万几十万。现在只要一段日常拍摄的视频就能出可用资产,把动态数字人的制作门槛砍了一大截。
不过我们认为,这类技术目前更适合用来做中期资产粗模或轻度互动演示。从单目视频脑补背面和被遮挡区域,本质上依然依赖扩散模型的概率预测,遇到极度复杂或反常识的动作时,骨骼和几何贴合仍可能偶发翻车。但作为开源界目前细节和一致性最好的 4D 角色方案,它已经给轻量化 3D 内容生产蹚出了一条很清晰的路。
来源 (1)
- arxiv.org(在新标签页打开)原文arxiv.org