跳到正文
IFAI

開源專案

Meta 釋出 SAM 3 與 SAM 3D:支援複雜提示詞分割,單圖直接重建 3D

首次發布 傳播指數 58

Meta 釋出分割模型 SAM 3 與 SAM 3D。SAM 3 支援用複雜的自然語言提示在圖片和影片中精確定位並追蹤物體,SAM 3D 則能把單張 2D 影像中的人或物體直接重建成 3D 模型。兩款模型已上線互動試玩區,SAM 3 的程式碼與權重已開源。

Meta 釋出 SAM 3 與 SAM 3D:支援複雜提示詞分割,單圖直接重建 3D
圖:ai.meta.com

SAM 3 和 SAM 3D 是 Meta 計算機視覺家族的最新開源工具,前者能讓你用自然語言長句在圖片和影片裡精確挑出任何物體,後者能直接把一張普通的 2D 平面照片拉伸成立體的 3D 模型。

能做什麼:複雜語言摳圖與單圖生成 3D

過去的分割模型基本只能識別字典裡的固定詞,比如車或者公交車,一旦輸入「黃色校車」就容易認錯。SAM 3 徹底打破了這種限制,不僅支援「紅色棒球帽」這類具體特徵,還能結合多模態大模型理解更長、帶排他邏輯的描述,比如「坐著但沒戴紅色棒球帽的人」。

除了在靜態圖片和動態影片裡圈出目標並持續追蹤,SAM 3 還支援基於文本的區域性替換,比如上傳自己穿藍襯衫的照片,直接敲鍵盤讓它換成紅襯衫。

SAM 3D 則直接把分割能力推到了三維空間。它由負責場景與物體的 SAM 3D Objects,以及專門估算人體骨架體態的 SAM 3D Body 兩個模型組成。不管是老照片裡的人物,還是現實中的桌椅寵物,它都能估算體量並還原出 3D 網格模型,方便匯入影片、VR 空間或遊戲引擎。

怎麼試用與開放程度

普通使用者現在可以直接去 Meta 新上線的 Segment Anything Playground 網頁端體驗,不需要任何部署經驗。在裡面上傳圖片或影片,輸入文字就能一鍵摳圖,或者用 SAM 3D 切換視角觀察、重新擺放畫面裡的物件。

在開放程度上,SAM 3 的程式碼和模型權重已經完全公開,同時配發了開放詞表分割評測基準、訓練資料集和完整研究論文。不過需要留意的是,負責立體生成的 SAM 3D 暫時還沒有完全開源權重,目前主要開放了網頁端體驗,Meta 自家則已經把它用在 Marketplace 的客廳傢俱試擺功能上。

為什麼重要

對於視覺演算法工程師和做影片剪輯的獨立開發者來說,SAM 3 是目前最順手的視覺基礎層工具。它把原本需要複雜座標標記或多輪蒙版精修的活,壓縮成了一句自然語言描述,大幅降低了自動化影片特效和批處理素材的開發門檻。

我們認為,單圖直接轉 3D 資產的門檻正在被迅速抹平。儘管 SAM 3D 目前尚未完全開源權重,但它展示的技術路徑很清晰:未來的 3D 建模可能不再需要昂貴的多視角掃描裝置,哪怕只靠單張照片,創作者也能低成本拿到可用的立體原型資產。

來源 (2)

  1. [1]
    ai.meta.com(在新分頁開啟)原文ai.meta.com
  2. [2]

每日 AI 內容精選