跳到正文
IFAI

开源项目

Meta 发布 SAM 3 与 SAM 3D:支持复杂提示词分割,单图直接重建 3D

首次发布 传播指数 58

Meta 发布分割模型 SAM 3 与 SAM 3D。SAM 3 支持用复杂的自然语言提示在图片和视频中精确定位并追踪物体,SAM 3D 则能把单张 2D 图像中的人或物体直接重建成 3D 模型。两款模型已上线交互试玩区,SAM 3 的代码与权重已开源。

Meta 发布 SAM 3 与 SAM 3D:支持复杂提示词分割,单图直接重建 3D
图:ai.meta.com

SAM 3 和 SAM 3D 是 Meta 计算机视觉家族的最新开源工具,前者能让你用自然语言长句在图片和视频里精确挑出任何物体,后者能直接把一张普通的 2D 平面照片拉伸成立体的 3D 模型。

能做什么:复杂语言抠图与单图生成 3D

过去的分割模型基本只能识别字典里的固定词,比如车或者公交车,一旦输入「黄色校车」就容易认错。SAM 3 彻底打破了这种限制,不仅支持「红色棒球帽」这类具体特征,还能结合多模态大模型理解更长、带排他逻辑的描述,比如「坐着但没戴红色棒球帽的人」。

除了在静态图片和动态视频里圈出目标并持续追踪,SAM 3 还支持基于文本的局部替换,比如上传自己穿蓝衬衫的照片,直接敲键盘让它换成红衬衫。

SAM 3D 则直接把分割能力推到了三维空间。它由负责场景与物体的 SAM 3D Objects,以及专门估算人体骨架体态的 SAM 3D Body 两个模型组成。不管是老照片里的人物,还是现实中的桌椅宠物,它都能估算体量并还原出 3D 网格模型,方便导入视频、VR 空间或游戏引擎。

怎么试用与开放程度

普通用户现在可以直接去 Meta 新上线的 Segment Anything Playground 网页端体验,不需要任何部署经验。在里面上传图片或视频,输入文字就能一键抠图,或者用 SAM 3D 切换视角观察、重新摆放画面里的物件。

在开放程度上,SAM 3 的代码和模型权重已经完全公开,同时配发了开放词表分割评测基准、训练数据集和完整研究论文。不过需要留意的是,负责立体生成的 SAM 3D 暂时还没有完全开源权重,目前主要开放了网页端体验,Meta 自家则已经把它用在 Marketplace 的客厅家具试摆功能上。

为什么重要

对于视觉算法工程师和做视频剪辑的独立开发者来说,SAM 3 是目前最顺手的视觉基础层工具。它把原本需要复杂坐标标记或多轮蒙版精修的活,压缩成了一句自然语言描述,大幅降低了自动化视频特效和批处理素材的开发门槛。

我们认为,单图直接转 3D 资产的门槛正在被迅速抹平。尽管 SAM 3D 目前尚未完全开源权重,但它展示的技术路径很清晰:未来的 3D 建模可能不再需要昂贵的多视角扫描设备,哪怕只靠单张照片,创作者也能低成本拿到可用的立体原型资产。

来源 (2)

  1. [1]
    ai.meta.com(在新标签页打开)原文ai.meta.com
  2. [2]

每日 AI 内容精选