跳到正文
IFAI

開源專案

PhysicEdit 開源:讓影像編輯懂物理,吸管折射、黃油融化不再翻車

首次發布 傳播指數 48

研究團隊開源物理感知影像編輯框架 PhysicEdit。它專門解決傳統編輯模型不懂物理規律的問題,能準確模擬水中光線折射、紙牌屋倒塌和黃油融化等動態效果。該框架基於 Qwen ImageEdit 2.5 構建,程式碼已在 GitHub 開源。

PhysicEdit 開源:讓影像編輯懂物理,吸管折射、黃油融化不再翻車
圖:arxiv.org

PhysicEdit 是一個讓 AI 影像編輯具備物理規律理解能力的開源框架。平時我們讓影像模型做修改,把物體挪個位置或者換個顏色還行,但只要牽涉到物理因果,比如把吸管插進裝水的玻璃杯,主流的閉源和開源模型往往都會把光線折射畫錯。

PhysicEdit 的核心賣點就是糾正這種不合常理的翻車。它本質上是一個基於 Qwen ImageEdit 2.5 訓練的端到端框架,能模擬各種具有連續演化邏輯的物理過程。

它能做什麼

在光學表現上,它最直觀的案例就是杯中吸管的真實折射,修正了以往影像模型直接畫直線或者折射角度荒謬的問題。

在熱學和形態變化上,它能準確處理黃油受熱軟化融化、水窪結冰,或是玻璃窗在溫差下起霧凝結水珠。

在力學與材料屬性方面,它能理解不同材質受力後的反應,比如讓搭好的紙牌屋自然倒塌、拉伸具有延展性的黏土、模擬小球高速砸碎番茄時的汁水飛濺,以及油漆剝落和黏土風乾硬化。

對於隨時間推移的生物演變,它同樣能生成香蕉逐漸長斑腐爛、花朵綻放或者植物枯萎的漸進畫面。

根據論文測試資料,在物理感知編輯基準上,PhysicEdit 相比基座 Qwen-Image-Edit 在物理真實感指標上提升了 5.9%,在知識接地編輯指標上提升了 10.1%,整體表現基本與頂尖專有模型持平甚至更強。

它是怎麼學會物理的

研究團隊指出,以往基於指令的編輯模型之所以不懂物理,是因為訓練資料大多是一對對靜態的前後圖片,模型只學到了輸入和輸出的離散對映,根本沒有學習中間的狀態轉移過程。

為了補齊這一環,團隊構建了一個名為 PhysicTran38K 的資料集。他們利用兩階段過濾和帶約束標註的流程,從影片中提取了涵蓋 5 個物理領域的 38000 條真實物理轉移軌跡。

在模型架構上,PhysicEdit 採用了文本與視覺的雙思考機制。它直接使用一個凍結權重的 Qwen2.5-VL 視覺語言模型負責物理常識推理,推演接下來應該發生什麼。

隨後,系統利用一組可學習的轉移查詢向量,將推理出的物理動態轉化為自適應的視覺引導訊號,注入到擴散模型底座中生成最終影像。目前該專案的程式碼已經託管在 GitHub。

為什麼重要

對從事電商視覺、概念設計或者工業渲染的人來說,PhysicEdit 填補了生成式影像裡最讓人頭疼的一個漏洞。以前要生成真實的光學折射或食材受熱融化,往往需要人工反覆抽卡甚至後期手修,現在通過 LoRA 就能獲得相對可靠的物理常識。

我們認為它的價值在於驗證了一條輕量化改造的路線:不需要重新從零預訓練一個百億引數的龐大底座,而是借用凍結的多模態模型做物理大腦,再配合影片提取的狀態轉移先驗,就能讓現有開源編輯模型補上物理課。對於不想為商業閉源模型高昂呼叫費買單的開發者來說,這是一個非常值得一試的開源方案。

來源 (1)

  1. [1]

每日 AI 內容精選