跳到正文
IFAI

AIGC

Retime GS:丢帧卡顿的 2D 视频,也能重建出平滑全身 4D 动画

首次发布 传播指数 41

AI 项目 Retime GS 亮相。它只需普通 2D 视频帧作为输入,就能生成支持任意视角观看的全身 4D 场景;即使原视频丢帧卡顿,也能通过改进的 4D Gaussian Splatting 补全空缺,比同类方法更流畅、伪影更少。

如果让你把一段随手拍的人物视频转成能随意旋转视角的 3D 模型,最怕的大概就是画面掉帧。过去只要中间缺了几帧,AI 算出来的动态 3D 往往就会疯狂抽搐、满是重影。

3 月 14 日亮相的 AI 项目 Retime GS 专门冲着这个痛点而来。它只需要普通的 2D 视频帧输入,就能重建出支持任意视角观看的高质量人体全身 4D 动画。

专治掉帧的「连续时间」表示

以往的动态 3D 重建工具通常需要输入每一帧都严丝合缝。一旦视频卡顿或缺帧,像 deform、gaussian flow、stgs 或 2D lift 这类现有方案,跑出来的场景大多充满噪点和伪影,画面极度不连贯。

Retime GS 的核心在于构建了一套「连续时间的 3D 表示」。说白了,AI 理解的不只是某一瞬间人体长什么样,而是身体如何随时间平滑变化。配合动作追踪、光流以及改进后的 4D Gaussian Splatting,它能在丢帧的空隙中把运动轨迹补全,输出平滑稳定的动画。

为什么重要

我们认为 Retime GS 做得聪明的地方,在于它没有去卷昂贵的多机位摄影棚,而是直接兼容普通人手头最粗糙的单目视频。

对 3D 创作者、独立游戏开发者和虚拟人制作来说,这意味着掉帧、卡顿的素材不再是废片,低成本生成可用 4D 资产成了可能。动态高斯泼溅正在从单纯的静态场景重建走向成熟的运动捕捉,这条技术线值得持续盯紧。

来源 (1)

  1. [1]
    youtube.com(在新标签页打开)原文youtube.com

每日 AI 内容精选