跳到正文
IFAI

開源專案

Pulse of Motion:測算真實物理幀率,矯正 AI 影片的「計時幻覺」

首次發布 傳播指數 48

研究團隊開源 Pulse of Motion,專門解決 AI 影片動作過快或過慢的「計時幻覺」。該模型不到 2GB,能直接從畫面運動推算出真實的物理幀率,並據此校正播放節奏。普通消費級裝置就能跑,讓 AI 畫面裡的動作真正符合現實物理規律。

圖:xiangbogaobarry.github.io

你看現在的 AI 生成影片,畫面已經逼真到能騙過眼睛,但只要盯著看兩秒,總會覺得哪裡怪怪的。

有的動作像在太空漫步,慢得違揹物理常識;有的動作又快得像按了快進鍵。3 月 15 日,Texas A&M University 的研究團隊把這個問題翻了出來,並開源了一個輕量級模型 Pulse of Motion,專門給 AI 影片找回現實節奏。

為什麼 AI 影片總在「瞎猜時間」

研究團隊把這種毛病叫做「計時幻覺」(Chronometric Hallucination)。說白了,就是生成模型只有一副好皮囊,腦子裡卻沒有一塊靠譜的時鐘。

造成這個問題的根源在訓練資料上。網上的影片拍攝速度五花八門,有的原本是慢動作升格,有的做了縮時攝影。但在餵給 AI 訓練時,往往全被簡單粗暴地統一壓成了固定的幀率,比如 24 幀或 16 幀。

久而久之,AI 學會了物體長什麼樣、動作怎麼過渡,卻根本不知道現實世界裡重力有多快。在它的理解裡,蜂鳥扇動翅膀和人在地上摔倒,播放起來可能沒什麼時間差別。

讓不到 2GB 的小模型去測算重力

Pulse of Motion 的思路很直接:不再教影片模型怎麼重新畫畫,而是給它配一個專門測算現實運動節奏的尺子。

這個模型不到 2GB,普通消費級裝置就能輕鬆跑起來。它會直接觀察畫面裡的動態細節,反向推算出這個動作在現實物理世界裡到底應該對應多少幀率,也就是「物理幀率」(Physical FPS)。

算出來之後,只要把影片按照這個真實幀率重新定時,觀感就會瞬間正常。比如在團隊給出的對比中,原先 24 幀的蛇在地板上滑行,實際物理幀率應該高達 60.2 幀;油鍋裡炸洋蔥圈的影片,也從 24 幀修正到了 58.9 幀,那種原本發飄的慢動作立刻有了真實油花飛濺的爆裂感。

而在一些原本被過度加速的場景裡,比如漁網中垂死掙扎的魚,模型測出的物理幀率只有 15.0 幀;雨滴打在綠葉上的場景則從 16 幀微調到 21.1 幀。研究人員發現,通用的多模態大模型在判斷時間節奏上非常不靠譜,必須依靠這種專用的運動預測器。

目前團隊不僅公開了程式碼和權重,還上線了測試生成影片運動一致性的排行榜。

為什麼重要

我們認為 Pulse of Motion 走了一條非常聰明的後處理路線。

現在各大模型廠商都在卷更大的引數量、更高的解析度,試圖靠死磕算力來讓模型「頓悟」物理規律。但現實證明,端到端的黑盒訓練在時間維度上依然漏洞百出。Pulse of Motion 沒有去硬剛重訓底層模型的萬卡叢集,而是用不到 2GB 的極小代價,在後處理階段把動作節奏拉回地面。

對於影片創作者和特效從業者來說,這個工具非常實用。以前生成的影片動作發虛,只能靠人工在剪輯軟體裡一點點拉變速曲線,現在直接跑一遍指令碼就能獲得符合物理節奏的底片。

不過它目前本質上還是一個後處理校正器,如果原始影片生成時就已經嚴重丟幀或動作扭曲,光靠調速也救不回缺失的形變細節。但它明確指出了現有影片模型的一大盲區,未來的新一代生成模型,大機率不得不把物理時間建模真正寫到底層架構裡去。

來源 (2)

  1. [1]
    t.co(在新分頁開啟)原文t.co
  2. [2]
    xiangbogaobarry.github.io(在新分頁開啟)報導xiangbogaobarry.github.io

每日 AI 內容精選