跳到正文
IFAI

AIGC

SwiftI2V 搞定 2K 圖生影片:單卡 RTX 4090 能跑,耗時狂降 202 倍

首次發布 傳播指數 41

研究團隊提出高解析度圖生影片框架 SwiftI2V。它先生成低解析度運動參考,再通過條件分段生成精細的 2K 畫面,最多輸出 81 幀。這意味著 2K 影片生成不再依賴叢集,單張 24GB 的 RTX 4090 就能跑,計算時間縮減了 202 倍。

SwiftI2V 搞定 2K 圖生影片:單卡 RTX 4090 能跑,耗時狂降 202 倍
圖:arxiv.org

玩過 AI 影片生成的朋友大概都體會過這種痛苦:讓一張圖片動起來不難,但只要想把清晰度拉到 2K,顯示卡視訊記憶體立刻告急,渲染時間更是動輒按小時算。

現在的行業做法基本卡在兩頭。要麼硬著頭皮端到端直接渲染整段 2K 影片,算力和視訊記憶體開銷大到普通機器根本跑不動;要麼先跑個低解析度小樣,再套一層通用超分演算法。但超分模型往往沒有原圖的強約束,很容易在運動中瞎猜細節,人臉一動就崩,甚至把原有的畫面質感全抹掉了。

研究團隊公佈了一個名為 SwiftI2V 的高解析度圖生影片框架,試圖在生成效率和畫面保真度之間找到一條捷徑。

先畫運動草圖,再分段精雕細琢

SwiftI2V 解決算力黑洞的思路很聰明:它把生成過程拆成了兩步走。

第一步,它會先根據輸入的原始影像,生成一個低解析度的運動參考。說白了,就是先把畫面裡的人物怎麼走、鏡頭怎麼推拉搖移的大致軌跡給「草繪」出來,以此大幅減少 token 的計算消耗。

第二步,系統再以最開始的高畫質原圖作為強引導,結合剛才的運動草圖,直接細化生成完整的 2K 影片。因為有原圖在旁邊盯著,模型不會像傳統超分那樣憑空胡思亂想。

更核心的技術在於它提出的條件分段生成機制。模型不試圖一口氣吃成胖子,而是把影片切分成更短的時間片段依次合成,給每一步都設了嚴格的視訊記憶體預算上限。

為了防止片段接縫處出現穿幫或跳幀,SwiftI2V 在片段內部引入了雙向上下文互動。這樣前後片段能夠互相感知,既保證了整段影片的連貫,又牢牢鎖住了原圖的細節特徵。

消費級顯示卡也能扛起 2K 工作流

這套設計帶來的直接結果就是算力門檻暴降。

研究團隊的資料顯示,在 VBench-I2V 的 2K 解析度基準測試中,SwiftI2V 在達到端到端基線模型同等畫質的前提下,將總 GPU 計算時間壓縮了 202 倍之多。

它最多可以穩定輸出 81 幀的 2K 解析度影片。更重要的是,整個生成過程完全可以跑在單張只有 24GB 視訊記憶體的消費級 RTX 4090 顯示卡上,或者單張 H800 資料中心顯示卡上。

在生成質量上,它也避開了不少競品的坑。傳統的影片超分方法在面對動態人像時經常把臉部細節搞糊或扭曲,而部分表現較好的超分方案(比如 Cinncale)又往往會粗暴地忽略原片裡的相機運動。

從目前的測試對比來看,SwiftI2V 不僅能把動態人臉的五官細節保留得相當工整,還能精準還原複雜的運鏡軌跡。

為什麼重要

我們認為,SwiftI2V 踩中了一個極其務實的痛點:影片生成的解析度競賽不能只靠堆機器硬頂。

過去獨立創作者或小團隊想要產出商用級別的 2K 素材,要麼花大價錢租雲端多卡叢集,要麼就得忍受超分帶來的奇怪偽影。SwiftI2V 證明了哪怕是 24GB 視訊記憶體的單張消費級顯示卡,只要排程邏輯足夠聰明,也能在本地吃下 81 幀的 2K 高畫質影片生成。這對影視前期的動態故事板製作、動態海報設計等輕量級商用場景來說,門檻降低是實實在在的。

對整個行業而言,這給影片模型的工程落地提供了一個新範式。很多團隊過去迷信一攬子端到端搞定,結果把推理成本推向了不可持續的高度。條件分段生成加上下文互動的方案,實際上是在架構層面給視訊記憶體戴上了緊箍咒。

不過看起來它目前也並非沒有侷限。81 幀的長度折算下來大概也就三四秒的動態展示,對於長鏡頭的敘事表達仍然遠遠不夠。如何把這種分段生成的連貫性擴充套件到幾百幀以上,同時避免長時序下的誤差累積,會是這項技術接下來最大的考驗。

來源 (1)

  1. [1]

每日 AI 內容精選