跳到正文
IFAI

開源專案

EditCrafter 開源:無需微調支援 4K 影像編輯,吃 24GB 視訊記憶體

首次發布 傳播指數 48

免微調影像編輯工具 EditCrafter 開源,支援直接對最高 4K 解析度的大圖進行修改。它能在不重新訓練的情況下保留原圖細節與結構,但出圖偏向高對比度與高飽和度;本地執行 4K 編輯需要 24GB 視訊記憶體。

EditCrafter 開源:無需微調支援 4K 影像編輯,吃 24GB 視訊記憶體
圖:arxiv.org

用 AI 修改圖片,很多人最頭疼的不是指令寫得好不好,而是圖片稍微大一點,模型就直接認栽。

目前絕大多數主流的擴散模型,訓練時處理的尺寸大多隻有 512×512 或者 1024×1024 畫素。拿一張幾千萬畫素的高畫質照或者 4K 大圖直接丟進去,模型往往會把畫面切碎拼湊,生成一堆重複變形的鬼影。

免微調影像編輯工具 EditCrafter 正式開源併發布了論文。它的核心目標很簡單,就是讓你拿著現成的文生圖擴散模型,直接去修改最高 4K 解析度的大圖,而且中途不需要針對每張圖重新訓練或做模型微調。

它是怎麼繞過重新訓練的

如果直接把高畫質大圖切成小塊送進模型裡改,塊與塊之間對不上,很容易出現奇怪的結構錯誤和多餘物體。

EditCrafter 給出的方案分為兩步。首先是分塊反演,它先將高解析度圖片切塊反推回模型的潛在特徵空間,在這個階段穩住原圖的輪廓和主體身份,保證改動前後的細節不會徹底亂套。

緊接著,研究團隊提出了一種被稱為 NDCFG++ 的噪聲阻尼流形約束無分類器引導機制。說白了,它是專門針對從高解析度潛在特徵還原影像時設計的引導策略,防止畫面在一步步去噪生成的過程中崩潰崩塌。

在實際演示中,EditCrafter 展現了跨越常見畫幅的編輯能力。比如一張超過 4000×2000 解析度的照片,它可以順暢地將畫面中的櫻花替換成楓葉;或者把一張普通的白天風景改造成日落沙漠,把天空中的月亮換成地球。

面對一張 4096×2496 的真正 4K 森林大圖,它也可以直接按照指令把樹林改造成燃燒的烈火,或者就地變成巨石陣,同時保住畫面原本的紋理和景深感。

能跑,但硬體和成色都有門檻

雖然不用微調,但並不代表它是一個沒有門檻的玩具。

首先是硬體需求。官方在開源頁面中提供了完整的本地執行程式碼和環境配置說明,但如果你打算處理真正的 4K 圖片,本地顯示卡至少需要 24GB 視訊記憶體。這意味著普通的消費級遊戲顯示卡吃不消,基本要上一張 RTX 3090、4090 或專業工作站顯示卡才能跑通。

其次是目前的成色問題。從實際編輯效果來看,它還不是一個完美的影像編輯器。

測試發現,EditCrafter 生成的圖片在色彩上和原圖並不完全一致,輸出傾向於增加額外的對比度和飽和度,有時會出現顏色過豔、略顯過飽和的痕跡。追求色彩精準還原的設計師,可能還需要自己拉回修圖軟體裡補一手調色。

為什麼重要

我們認為,EditCrafter 最聰明的地方在於它沒有試圖去重新造輪子,而是把精力花在「怎麼榨乾現有模型」上。

重新訓練一個原生支援 4K 的擴散模型,算力和資料成本高得嚇人。EditCrafter 走了一條純粹的免調優管線,證明現有的開源生圖底座本身就包含了足夠豐富的高階視覺先驗,只是以前缺少把大圖安全送進去再完整拿出來的機制。

對開發者和有條件的創作者來說,它提供了一個現成的本地化方案,讓桌布級大圖和高分攝影素材的指令級重繪變得可行。即使顏色有些偏重,也比過去不得不先縮放、再編輯、最後靠超解析度放大腦補細節的折騰流程要直接得多。

但看起來,它離面向大眾的傻瓜化應用還有一段距離。24GB 視訊記憶體的門檻把絕大部分輕度使用者擋在了門外,過飽和的調色傾向也說明演算法在引導特徵時對亮度和色度的控制還有最佳化空間。接下來如果有團隊能在此基礎上做出視訊記憶體最佳化和更剋制的色彩對齊,這類免微調高畫質編輯才算真正進入實用期。

來源 (1)

  1. [1]

每日 AI 內容精選