跳到正文
IFAI

开源项目

PhysicEdit 开源:让图像编辑懂物理,吸管折射、黄油融化不再翻车

首次发布 传播指数 48

研究团队开源物理感知图像编辑框架 PhysicEdit。它专门解决传统编辑模型不懂物理规律的问题,能准确模拟水中光线折射、纸牌屋倒塌和黄油融化等动态效果。该框架基于 Qwen ImageEdit 2.5 构建,代码已在 GitHub 开源。

PhysicEdit 开源:让图像编辑懂物理,吸管折射、黄油融化不再翻车
图:arxiv.org

PhysicEdit 是一个让 AI 图像编辑具备物理规律理解能力的开源框架。平时我们让图像模型做修改,把物体挪个位置或者换个颜色还行,但只要牵涉到物理因果,比如把吸管插进装水的玻璃杯,主流的闭源和开源模型往往都会把光线折射画错。

PhysicEdit 的核心卖点就是纠正这种不合常理的翻车。它本质上是一个基于 Qwen ImageEdit 2.5 训练的端到端框架,能模拟各种具有连续演化逻辑的物理过程。

它能做什么

在光学表现上,它最直观的案例就是杯中吸管的真实折射,修正了以往图像模型直接画直线或者折射角度荒谬的问题。

在热学和形态变化上,它能准确处理黄油受热软化融化、水洼结冰,或是玻璃窗在温差下起雾凝结水珠。

在力学与材料属性方面,它能理解不同材质受力后的反应,比如让搭好的纸牌屋自然倒塌、拉伸具有延展性的黏土、模拟小球高速砸碎番茄时的汁水飞溅,以及油漆剥落和黏土风干硬化。

对于随时间推移的生物演变,它同样能生成香蕉逐渐长斑腐烂、花朵绽放或者植物枯萎的渐进画面。

根据论文测试数据,在物理感知编辑基准上,PhysicEdit 相比基座 Qwen-Image-Edit 在物理真实感指标上提升了 5.9%,在知识接地编辑指标上提升了 10.1%,整体表现基本与顶尖专有模型持平甚至更强。

它是怎么学会物理的

研究团队指出,以往基于指令的编辑模型之所以不懂物理,是因为训练数据大多是一对对静态的前后图片,模型只学到了输入和输出的离散映射,根本没有学习中间的状态转移过程。

为了补齐这一环,团队构建了一个名为 PhysicTran38K 的数据集。他们利用两阶段过滤和带约束标注的流程,从视频中提取了涵盖 5 个物理领域的 38000 条真实物理转移轨迹。

在模型架构上,PhysicEdit 采用了文本与视觉的双思考机制。它直接使用一个冻结权重的 Qwen2.5-VL 视觉语言模型负责物理常识推理,推演接下来应该发生什么。

随后,系统利用一组可学习的转移查询向量,将推理出的物理动态转化为自适应的视觉引导信号,注入到扩散模型底座中生成最终图像。目前该项目的代码已经托管在 GitHub。

为什么重要

对从事电商视觉、概念设计或者工业渲染的人来说,PhysicEdit 填补了生成式图像里最让人头疼的一个漏洞。以前要生成真实的光学折射或食材受热融化,往往需要人工反复抽卡甚至后期手修,现在通过 LoRA 就能获得相对可靠的物理常识。

我们认为它的价值在于验证了一条轻量化改造的路线:不需要重新从零预训练一个百亿参数的庞大底座,而是借用冻结的多模态模型做物理大脑,再配合视频提取的状态转移先验,就能让现有开源编辑模型补上物理课。对于不想为商业闭源模型高昂调用费买单的开发者来说,这是一个非常值得一试的开源方案。

来源 (1)

  1. [1]

每日 AI 内容精选