跳到正文
IFAI

AIGC

Retime GS:丟幀卡頓的 2D 影片,也能重建出平滑全身 4D 動畫

首次發布 傳播指數 41

AI 專案 Retime GS 亮相。它只需普通 2D 影片幀作為輸入,就能生成支援任意視角觀看的全身 4D 場景;即使原影片丟幀卡頓,也能通過改進的 4D Gaussian Splatting 補全空缺,比同類方法更流暢、偽影更少。

如果讓你把一段隨手拍的人物影片轉成能隨意旋轉視角的 3D 模型,最怕的大概就是畫面掉幀。過去只要中間缺了幾幀,AI 算出來的動態 3D 往往就會瘋狂抽搐、滿是重影。

3 月 14 日亮相的 AI 專案 Retime GS 專門衝著這個痛點而來。它只需要普通的 2D 影片幀輸入,就能重建出支援任意視角觀看的高質量人體全身 4D 動畫。

專治掉幀的「連續時間」表示

以往的動態 3D 重建工具通常需要輸入每一幀都嚴絲合縫。一旦影片卡頓或缺幀,像 deform、gaussian flow、stgs 或 2D lift 這類現有方案,跑出來的場景大多充滿噪點和偽影,畫面極度不連貫。

Retime GS 的核心在於構建了一套「連續時間的 3D 表示」。說白了,AI 理解的不只是某一瞬間人體長什麼樣,而是身體如何隨時間平滑變化。配合動作追蹤、光流以及改進後的 4D Gaussian Splatting,它能在丟幀的空隙中把運動軌跡補全,輸出平滑穩定的動畫。

為什麼重要

我們認為 Retime GS 做得聰明的地方,在於它沒有去卷昂貴的多機位攝影棚,而是直接相容普通人手頭最粗糙的單目影片。

對 3D 創作者、獨立遊戲開發者和虛擬人制作來說,這意味著掉幀、卡頓的素材不再是廢片,低成本生成可用 4D 資產成了可能。動態高斯潑濺正在從單純的靜態場景重建走向成熟的運動捕捉,這條技術線值得持續盯緊。

來源 (1)

  1. [1]
    youtube.com(在新分頁開啟)原文youtube.com

每日 AI 內容精選