Meta 釋出 SAM 3D:單張 2D 照片一鍵變 3D,權重與程式碼全開源
Meta 推出全新 SAM 3D 系列模型,包含 Objects 和 Body 兩個分支,能從單張 2D 照片直接重建高精度 3D 物體、場景及人體。官方已開源權重與推理程式碼,並在 Playground 開放體驗;該技術目前已落地至 Facebook Marketplace 的房間預覽功能中。

SAM 3D 是 Meta 針對真實自然影像推出的 3D 重建模型家族,能直接把單張普通的 2D 平面照片變成帶幾何網格和紋理的 3D 資產。這個系列包含兩個模型:SAM 3D Objects 負責常見物體與場景的重建,SAM 3D Body 則專門負責估算人體的三維形態與姿態。
它能做什麼與怎麼試
過去從單張照片提取 3D 模型,出來的往往是一個只能放在空白背景裡看的簡單模型,遇到真實照片裡的遮擋、雜亂光影就容易塌陷。SAM 3D 試圖把日常抓拍的生活照片變成可互動的 3D 網格。
官方目前已經開源了模型權重檔案(checkpoints)與推理程式碼。配套的評測資料集 SAM 3D Artist Objects(SA-3DAO)也即將上線,專門用來評估真實影像下的 3D 重建質量。
如果你暫時不想在本地配置環境,Meta 把功能整合到了 Segment Anything Playground 網頁端。在頁面裡上傳照片,點選其中的人物或物體,就能直接線上生成三維重建結果。這個試玩平臺還同時集成了視覺大模型 SAM 3。
在商業落地方面,Meta 已經把 SAM 3D 和 SAM 3 塞進了 Facebook Marketplace,上線了名為「View in Room」的功能,讓買家在下單前把二手傢俱以虛擬 3D 形式投放到自己的房間裡預覽尺寸和風格。
它是怎麼做到的
做 3D 模型的最大瓶頸不是算力,而是資料。文本和 2D 影像資料隨處可見,但高精度的真實世界 3D 幾何真值極度匱乏,以往的模型幾乎全靠虛擬生成的合成數據餵養,一旦面對現實環境就出現嚴重的「模擬到真實」差距。
Meta 借鑑了大型語言模型的訓練路線:先用合成 3D 資產完成類似 LLM 的預訓練,再引入一套人機協同的資料引擎進行後訓練對齊。
從零製作 3D 資產需要專業美術師,成本極高。Meta 發現,讓人去判斷和篩選網格的優劣門檻要低得多。他們讓普通標註員給多個模型生成的候選網格打分排序,只把最棘手的疑難樣本派給專業 3D 藝術家處理。
通過這套標註閉環,Meta 給近 100 萬張不同的真實世界影像建立了 3D 形狀、紋理和空間佈局標註,生成了大約 314 萬個網格。模型輸出質量提升後,反過來又提高了資料引擎的標註效率。
為什麼重要
對獨立遊戲開發者、AR 和 VR 創作者來說,SAM 3D 非常值得立刻上手。它直接壓低了將真實世界物體快速數字化的門檻,甚至省去了一套複雜的攝影測量掃模流程。
我們認為,Meta 這次最聰明的做法不在於網路架構本身,而在於用「LLM 式後訓練加打分飛輪」打破了 3D 真實資料荒的死局。不過從單圖腦補盲區背面依然受限於先驗推斷,面對結構高度複雜的物體,生成的網格精細度仍難完全替代人工精修,但它確實把 3D 生成從純玩概念推進到了實用階段。
來源 (1)
- ai.meta.com(在新分頁開啟)原文ai.meta.com