跳到正文
IFAI

AI工具

MatAnyone 影片摳圖模型:3GB 視訊記憶體可跑,單卡搞定 4K 即時摳圖

首次發布 傳播指數 41

研究團隊公佈影片摳圖模型 MatAnyone,能精細分離單根髮絲與半透明邊緣。它只需約 3GB 視訊記憶體即可執行,單張 H200 下可支援 4K 即時摳圖,核心是通過低解析度先定位難處理區域再區域性精細計算。團隊後續計劃開原始碼並推出 ComfyUI 節點。

做過影片後期的人都知道,摳像從來都是最磨人的苦差事。遇到飄動的碎髮、半透明的薄紗或是玻璃杯邊緣,傳統的綠幕和蒙版演算法往往破綻百出,而上一代大模型演算法雖然效果拔群,視訊記憶體佔用卻動輒把顯示卡擠爆。

研究團隊公佈了影片摳圖模型 MatAnyone(論文中命名為 MatAnyone-E)。它不僅能精細分離單根頭髮和半透明邊緣,還把視訊記憶體門檻直接砍到了約 3GB,甚至在單張 H200 上跑出了 4K 即時摳圖的成績。

難搞的地方才用高解析度

傳統的影片摳圖模型大多依賴「記憶機制」,也就是把當前畫面的特徵與前面幾幀儲存的資訊做全面比對,以此保證連續多幀都不閃爍。但這套邏輯一旦遇到 4K 畫質,搜尋計算量和視訊記憶體開銷就會瞬間失控。

MatAnyone-E 換了一個很聰明的思路:它先在低解析度下快速掃一遍畫面,挑出那些真正難啃的「不確定區域」,比如隨風散開的髮絲或模糊的羽化邊緣,並圈出與這些區域最相關的歷史記憶。

緊接著,模型只在這些區域性難點上呼叫高解析度匹配,畫面其他平整乾淨的背景則直接複用低解析度的結果。再配上針對執行瓶頸最佳化的輕量解碼器,新方案在保持同等摳圖精度的情況下,推理速度比上一代 MatAnyone 2 提升了約 7.4 倍,4K 峰值視訊記憶體更是降到了原本的 7.6%。

消費級顯示卡也能跑,ComfyUI 正在路上

效率提升帶來的數字非常直觀。在開啟編譯最佳化的單張 NVIDIA H200 GPU 上,MatAnyone-E 處理 1080p 影片的幀率達到了 73.07 FPS,4K 解析度下也跑出了 28.62 FPS,完全達到了即時處理的標準。

更接地氣的是,大約 3GB 的視訊記憶體佔用意味著普通個人電腦裡的消費級顯示卡也能輕鬆駕馭,多人物同框的複雜場景同樣可以乾淨利落地分離出來。

團隊目前已經在專案頁面掛出了規劃,接下來不僅會公開訓練程式碼和模型權重,還會推出專門的 ComfyUI 自定義節點,讓本地工作流使用者能直接上手。

為什麼重要

我們認為,MatAnyone 最亮眼的地方不在於摳圖邊緣多銳利,而在於它把原本屬於專業影視工作站的精細摳像能力,變成了普通裝置觸手可及的常規工具。

過去,髮絲級和半透明物體的影片摳圖必須在「極慢的渲染時間」與「昂貴的算力叢集」之間做妥協。MatAnyone 把 4K 即時推理壓縮排一張顯示卡、把常態執行控制在 3GB 視訊記憶體內,直接打通了虛擬主播即時置換背景、短影片創作者快速出片乃至雲端低成本批次剪輯的技術堵點。一旦 ComfyUI 節點上線,創作者生態大機率會迅速跟進。

從技術路徑上看,這種「低清定位難點、高畫質區域性攻堅」的稀疏化策略,給其他高解析度影片生成和理解模型提供了一個極佳的減負樣板。不過我們也要看到,目前團隊展示的多為實驗樣片,程式碼與權重尚未完全開放交付,在極端光影變化或劇烈鏡頭運動下的真實抗壓表現,還有待後續社群實測。

來源 (1)

  1. [1]

每日 AI 內容精選