跳到正文
IFAI

AI科研

研究人员推出智能体 VIGA:给一张图,直接在 Blender 里重建成 3D 场景

首次发布 传播指数 36

研究团队推出多模态智能体 VIGA,能把单张二维图像重构成 Blender 里可完全编辑的 3D 场景程序。它通过交替多模态推理与上下文记忆,既能用几何图元从零搭场景,也能调用现有 3D 工具。基准测试显示,其在 BlenderBench 上的综合表现相比基线提升超 124%。

图:fugtemypt123.github.io

VIGA 是一个能用 Blender 图形引擎边思考边建模的多模态智能体。丢给它一张普通的 2D 照片,它就能把画面翻译成代码,在 Blender 里面重建出一整套可以继续编辑、调整物理属性和交互的 3D 场景程序。

它能做什么

它和普通的 3D 生成模型不太一样。很多工具直接生成不可编辑的点云或网格,而 VIGA 生成的是程序化场景。

在 Blender 里,它可以直接从最基本的几何图元开始搭积木,比如用参数化的立方体和球体从零拼出场景。如果需要更精致的模型,它也能直接调用 Meshy 或 SAM-3D 这类现成的 3D 资产生成工具,把现成模型当成起点,再去搭建物理场景。

除了 3D 建模,研究团队还发现它能拓展到其他程序化创作任务上,比如自动生成 2D 演示文稿(幻灯片设计)。

怎么做到的

VIGA 的核心是「分析-合成循环」(analysis-by-synthesis loop)。简单来说,它不是一次性把模型猜出来,而是写一段代码渲染一下,看一眼渲染结果,再根据差距继续修改。

为了做到这一点,它采用了交替多模态推理机制,并配上了一套动态演化的上下文记忆。这个记忆库能让模型记住之前的尝试和修改历史,从而像人类开发者一样不断调试场景、调整材质和物理碰撞。

在性能测试中,团队构建了一个包含 30 个任务的基准测试 BlenderBench,覆盖视角调整、多步编辑和组合编辑。测试显示,配合 GPT-4o 或 Qwen3-VL-8B 作为底座,VIGA 比单次直接生成的基准表现平均提升了 124.70%。

即便和没有上下文记忆的同构变体 BlenderAlchemy 相比,VIGA 的优势也很明显。在现有的单步图形编辑基准 BlenderGym 上,它也在几何、光照、材质和摆放等维度上取得了 35.32% 的综合提升。

怎么上手与现状

目前研究团队在项目主页上展示了详细的研究成果和演示案例,论文已经上线 arXiv(编号 2601.11109)。

底座模型方面,它支持结合 GPT-4o 或开源的 Qwen3-VL-8B 运行。不过目前官方主要公开了论文、基准测试和技术原理展示,想要在本地一键运行完整流程的用户,还需要关注主页的后续代码更新。

为什么重要

对于 3D 创作者和游戏开发者来说,可编辑性才是 3D 生成的核心痛点。以往很多「一键生成 3D」给出的都是难以细改的封闭网格,而 VIGA 证明了让大模型直接操控成熟的图形引擎、通过代码逐步搭场景是完全可行的。

我们认为,这种把 Blender 本身当成推理工具和沙盒的做法非常聪明。它避开了纯视觉语言模型在空间直觉上的短板,把生成转化成了「写代码-渲染-纠错」的工程问题。如果你平时频繁使用 Blender,或者正在探索 AI 辅助场景搭建,这个项目的架构思路非常值得持续跟进。

来源 (1)

  1. [1]
    fugtemypt123.github.io(在新标签页打开)原文fugtemypt123.github.io

每日 AI 内容精选