跳到正文
IFAI

開源專案

Kiwi-Edit 開源:打字或給參考圖,就能對 720p 影片增刪改

首次發布 傳播指數 48

Showlab 開源影片編輯框架 Kiwi-Edit,完整公開程式碼、模型與資料集。它結合多模態大模型與 5B 影片擴散 Transformer,支援通過自然語言或參考圖在 720p 解析度下完成物體增刪、背景替換和風格遷移。最值得關注的是其時序連貫性優秀,為開源影片編輯提供了統一工具鏈。

圖:showlab.github.io

Kiwi-Edit 是 Showlab 開源的一個影片編輯框架,簡單說,它能讓你用一句話或者一張參考圖,直接修改現有的 720p 影片。

過去想在影片裡換掉背景、抹掉路人或者把寫實畫面改成水彩風,要麼得手動逐幀摳圖,要麼只能碰運氣用閉源商業工具。Kiwi-Edit 把這套能力做成了完全開源的工具鏈,把程式碼、模型權重和訓練資料集全部公開了出來。

它能做什麼

Kiwi-Edit 的核心能力分為兩大類:自然語言指令編輯和參考圖引導編輯。

在文字指令模式下,你可以做全域性風格調整,比如把一段實拍影片轉成卡通動畫、素描或者水彩畫;也可以做精確的區域性增減,比如給畫面裡的主體戴上一頂帽子,或者把不需要的人物直接抹除。

如果你手裡有一張特定的參考圖,Kiwi-Edit 還能把圖片裡的背景提取出來換到原影片裡,或者把圖片裡的特定物體插入到影片場景中,同時保持影片原有的運動軌跡和結構不變,不會出現常見的畫面閃爍或物體扭曲。

怎麼做到的與硬體門檻

Kiwi-Edit 的底層架構結合了兩個部分:一個負責理解複雜人類指令的多模態大語言模型,以及一個 5B 引數量的影片擴散 Transformer(DiT)。

整個訓練採用三階段課程設計,先做基礎對齊,再做指令微調,最後進行參考圖引導的微調。團隊還搭建了一套自動化資料管線,把指令三元組擴充為參考引導的四元組資料,以此保證影片在經歷複雜編輯後依然具有時序連貫性。

在各項公開基準測試中,Kiwi-Edit 的 5B 模型在 1280×704 解析度下的綜合表現超過了 Lucy-Edit、OpenVE-Edit 等一眾 5B 到 14B 的開源競品,在部分區域性編輯指標上甚至逼近商用閉源方案 Runway Aleph。雖然在被攝主體一致性上相比 Kling-O1 等大廠閉源主力模型仍有差距,但在開源陣營裡已經拿下了極具競爭力的成績。

硬體方面,模型權重體積約為 20 GB。想要流暢跑起來,本地需要一塊視訊記憶體充裕的高階消費級 GPU。

目前相關論文已經上線 arXiv,專案程式碼、模型和訓練資料集均已在 GitHub 和專案主頁完整開源。

為什麼重要

對於影片創作者和獨立開發者來說,Kiwi-Edit 最大的價值在於把影片二次創作的門檻直接打了下來。以前開源影片模型多半隻能從頭文生影片,很難在既有成片上做精準微調;現在通過一張圖加一句話,就能把背景替換或角色配飾改掉,這讓低成本影片後期管線有了落地的可能。

我們認為 Kiwi-Edit 走得最聰明的地方是全套開源了訓練資料集和三階段方案,沒有在關鍵資料上留一手。5B 引數量控制得相對剋制,但 20 GB 的體積對普通輕薄本使用者依然不可企及,門檻依舊卡在高階顯示卡上。它更適合有本地算力的工作室或極客開發者先試用起來,把它作為定製化影片流的底模。

來源 (1)

  1. [1]
    showlab.github.io(在新分頁開啟)原文showlab.github.io

每日 AI 內容精選