跳到正文
IFAI

AI科研

Vista4D:把普通影片轉成 4D 點雲,支援自由運鏡重拍與動態編輯

首次發布 傳播指數 36

研究團隊提出 Vista4D 框架,能把普通影片轉換為包含時間維度的 4D 點雲。最值得關注的是,它不僅能以任意相機軌跡重新渲染動態畫面,還能直接在點雲中增刪物體或拼接不同影片。目前程式碼與模型已開放。

Vista4D:把普通影片轉成 4D 點雲,支援自由運鏡重拍與動態編輯
圖:arxiv.org

拍影片最讓人頭疼的,莫過於後期剪輯時才發現機位架得不夠刁鑽,或者鏡頭動線太死板。以前想要換個角度,往往只能叫齊人馬重新開機。

研究團隊正式公佈了 Vista4D 框架。它做的事情很直接:把一段普通的單目平面影片,轉換成帶有時間維度的 4D 點雲,讓原本已經拍死的畫面變成一個隨時可以重新調整機位、甚至隨意修改內容的虛擬攝影棚。

把單重視角拆解成 4D 積木

傳統的影片重拍(video reshooting)一直有個老大難問題:真實場景裡只要有人或車在動,深度估計就很容易出現各種斷裂和扭曲,相機機位稍微偏離原路線,生成出來的畫面就會變形崩塌。

Vista4D 的做法是通過靜態畫素分割與 4D 重建,構建出一套紮實的 4D 點雲表徵。它把已經看到的畫面畫素與相機運動訊號牢牢繫結,再用重建的多視角動態資料來訓練模型,以此抵抗實際推理時可能出現的點雲瑕疵。

在生成效果上,對比此前社群裡討論較多的 Recam Master 或 Trajectory Crafter,Vista4D 在大幅改變鏡頭軌跡時,角色外貌和背景細節的連貫性表現明顯更好,還能輕鬆實現逼真的縮放視差。

空間層面的動態剪輯與場景擴充套件

由於畫面本質上已經變成了一個 3D 點雲,使用者就能像擺放積木一樣直接編輯這個動態空間,然後再重新渲染出影片。

比如一段單車通行的街景,你可以直接在點雲裡塞入第二輛車;如果畫面前方有個路人擋住了主體,也能直接把他的點雲完全剝離,重新渲染出乾淨的新畫面。甚至,你還能從另一段影片裡提取一對老人或者一頭犀牛的 3D 點雲,無縫拼進當前場景。

對於固定機位沒拍到的死角,Vista4D 允許系統先行猜測補全。如果你手裡恰好有一段展示房間全貌的環境影片,還能把它輸入進去校準點雲資料,最終渲染出毫無破綻的 360 度環繞鏡頭。目前該專案的程式碼和模型均已對外開放。

為什麼重要

對影片創作者和小型後期團隊來說,Vista4D 意味著後期補救的容錯率被大幅拉高。過去需要多機位聯拍或綠幕合成的複雜排程,現在靠單機拍攝加後期 4D 重構就有可能搞定,甚至能把隨手拍的日常素材變成可以自由運鏡的數字資產。

從技術路線來看,很多團隊試圖直接用端到端的大型影片擴散模型硬猜多視角,但物理規律和時間連貫性往往難以兼顧。Vista4D 堅持引入顯式的 4D 點雲作為幾何骨架,在控制精度與生成畫質之間找到了一個非常聰明的折中點。

不過我們認為,它目前的侷限也很明顯。跨影片合成時的動態光影融合、極端視角的紋理填充,依然依賴生成模型的補全能力,距離影視級無瑕交付還有一段距離。但毫無疑問,它把影片後期從二維平面的修修補補,真正推向了四維空間的自由重構。

來源 (1)

  1. [1]

每日 AI 內容精選