跳到正文
IFAI

AIGC

騰訊推出特效遷移框架 EffectMaker:無需單獨微調,一鍵克隆影片特效

首次發布 傳播指數 41

騰訊混元團隊提出特效定製框架 EffectMaker,能把參考影片中的視覺特效直接克隆到新畫面中。它通過多模態大模型與 Diffusion Transformer 雙路引導,無需針對單個特效微調,並配套構建了含 13 萬條影片的資料集。

騰訊推出特效遷移框架 EffectMaker:無需單獨微調,一鍵克隆影片特效
圖:arxiv.org

在短影片裡看到別人背生光翼、臉部瞬間變成機械裝甲,或者吐出一圈繚繞的煙霧,想要給自己也做一套同款?在以前,這得靠專業後期逐幀調粒子和合成,哪怕是用現在的生成式 AI,往往也得針對每一種特效單獨微調一套模型。

騰訊混元團隊公佈了一個名為 EffectMaker 的影片特效定製框架。它的核心邏輯很直接:把參考影片裡的視覺特效直接提取出來,克隆並遷移到另一個新影片或新影像的目標主體上,而且全程不需要為每個特效單獨做微調。

讓大模型理解特效,再讓擴散模型畫出來

AI 做影片特效一直很頭疼。一方面是超自然、風格化的視覺資料本來就少,另一方面是特效必須跟著人體或物體的運動發生變形,稍微偏一點就顯得違和。

EffectMaker 解決這個問題的思路,是搞了一套「語義與視覺雙路引導」機制。它先用一個多模態大語言模型(MLLM)充當特效指導,負責理解參考影片裡的特效究竟是什麼,並推理出這個特效應該怎樣自適應貼合到新的目標身上。

與此同時,負責畫面生成的 Diffusion Transformer(DiT)則通過上下文學習,直接從參考影片中抓取細粒度的紋理、光影等視覺線索。大模型負責把握意圖和空間邏輯,擴散模型負責還原細節,兩邊配合,就省去了針對單種特效反覆微調的繁瑣步驟。

拿 13 萬條影片砸出一個特效庫

除了架構,想要讓模型看一眼參考影片就學會複製,底層的訓練資料也是硬門檻。

為了解決特效資料稀缺的問題,騰訊混元團隊配套構建了名為 EffectData 的合成數據集。這也是目前公開最大的高質量特效資料集,一共包含了 13 萬條合成影片,覆蓋了整整 3000 個特效類別。

有了這套大底座,EffectMaker 在面對從未見過的超現實或風格化效果時,表現出了很強的泛化能力。實驗結果顯示,無論是視覺質量還是特效在目標身上的連貫一致性,它都明顯優於現有的 baseline 方案。

為什麼重要

對普通創作者和剪輯師來說,這類技術如果落地,意味著影片特效的創作門檻被大幅砍平。以前短影片平臺那些酷炫的運鏡特效和魔法光效,需要複雜的工程鏈路配合,未來可能只需要給 AI 喂一段參考素材,就能直接套到自己身上。

從行業競爭來看,影片生成技術正在從純粹的「文生影片」和「圖生影片」,轉向更精細的可控編輯。騰訊混元選擇繞開單特效微調這種費時費力的方式,通過「多模態大模型推理加 DiT 上下文學習」來做零樣本遷移,在技術路線上走得很聰明,大幅降低了推理成本和使用門檻。

不過我們認為,這類技術距離真正完全自動化依然有些挑戰。合成數據做出的效果固然豐富,但遇到複雜的現實光照遮擋、多人互動等極端場景時,特效能否精準貼合而不穿模,依然需要經過更嚴苛的現實場景檢驗。

來源 (1)

  1. [1]

每日 AI 內容精選