跳到正文
IFAI

AIGC

Meta 发布 SAM 3D:单张 2D 照片一键变 3D,权重与代码全开源

首次发布 传播指数 31

Meta 推出全新 SAM 3D 系列模型,包含 Objects 和 Body 两个分支,能从单张 2D 照片直接重建高精度 3D 物体、场景及人体。官方已开源权重与推理代码,并在 Playground 开放体验;该技术目前已落地至 Facebook Marketplace 的房间预览功能中。

Meta 发布 SAM 3D:单张 2D 照片一键变 3D,权重与代码全开源
图:ai.meta.com

SAM 3D 是 Meta 针对真实自然图像推出的 3D 重建模型家族,能直接把单张普通的 2D 平面照片变成带几何网格和纹理的 3D 资产。这个系列包含两个模型:SAM 3D Objects 负责常见物体与场景的重建,SAM 3D Body 则专门负责估算人体的三维形态与姿态。

它能做什么与怎么试

过去从单张照片提取 3D 模型,出来的往往是一个只能放在空白背景里看的简单模型,遇到真实照片里的遮挡、杂乱光影就容易塌陷。SAM 3D 试图把日常抓拍的生活照片变成可交互的 3D 网格。

官方目前已经开源了模型权重文件(checkpoints)与推理代码。配套的评测数据集 SAM 3D Artist Objects(SA-3DAO)也即将上线,专门用来评估真实图像下的 3D 重建质量。

如果你暂时不想在本地配置环境,Meta 把功能集成到了 Segment Anything Playground 网页端。在页面里上传照片,点选其中的人物或物体,就能直接在线生成三维重建结果。这个试玩平台还同时集成了视觉大模型 SAM 3。

在商业落地方面,Meta 已经把 SAM 3D 和 SAM 3 塞进了 Facebook Marketplace,上线了名为「View in Room」的功能,让买家在下单前把二手家具以虚拟 3D 形式投放到自己的房间里预览尺寸和风格。

它是怎么做到的

做 3D 模型的最大瓶颈不是算力,而是数据。文本和 2D 图像数据随处可见,但高精度的真实世界 3D 几何真值极度匮乏,以往的模型几乎全靠虚拟生成的合成数据喂养,一旦面对现实环境就出现严重的「仿真到真实」差距。

Meta 借鉴了大型语言模型的训练路线:先用合成 3D 资产完成类似 LLM 的预训练,再引入一套人机协同的数据引擎进行后训练对齐。

从零制作 3D 资产需要专业美术师,成本极高。Meta 发现,让人去判断和筛选网格的优劣门槛要低得多。他们让普通标注员给多个模型生成的候选网格打分排序,只把最棘手的疑难样本派给专业 3D 艺术家处理。

通过这套标注闭环,Meta 给近 100 万张不同的真实世界图像建立了 3D 形状、纹理和空间布局标注,生成了大约 314 万个网格。模型输出质量提升后,反过来又提高了数据引擎的标注效率。

为什么重要

对独立游戏开发者、AR 和 VR 创作者来说,SAM 3D 非常值得立刻上手。它直接压低了将真实世界物体快速数字化的门槛,甚至省去了一套复杂的摄影测量扫模流程。

我们认为,Meta 这次最聪明的做法不在于网络架构本身,而在于用「LLM 式后训练加打分飞轮」打破了 3D 真实数据荒的死局。不过从单图脑补盲区背面依然受限于先验推断,面对结构高度复杂的物体,生成的网格精细度仍难完全替代人工精修,但它确实把 3D 生成从纯玩概念推进到了实用阶段。

来源 (1)

  1. [1]
    ai.meta.com(在新标签页打开)原文ai.meta.com

每日 AI 内容精选