MAMMA 開源:只需 4 臺普通攝像機,搞定多人 3D 動作捕捉
馬普所和 CMU 開源無標記動捕系統 MAMMA,僅用 4 臺普通攝像機甚至手機拍攝的多視角影片,就能轉成高精度 3D 人體模型。它無需穿戴任何物理標記點,能精準追蹤跳舞、擁抱等複雜互動,還能做出《駭客帝國》同款子彈時間效果。程式碼與 Web UI 已在 GitHub 開放。
過去要做專業的多人動作捕捉,畫面通常很誇張:演員穿戴貼滿反光小球的緊身衣,四周架設幾十臺昂貴的動捕攝像機。如果遇到兩個人跳舞或者擁抱,身體互相遮擋,捕捉點很容易跟丟。
現在,來自馬普所智慧系統研究所(MPI-IS)和卡內基梅隆大學(CMU)的研究團隊打算徹底改變這一現狀。他們入選 CVPR 2026 Oral 的最新開源系統 MAMMA,把多人 3D 動捕的硬體門檻壓到了 4 臺普通攝像機。
扔掉動捕衣,4 臺手機復現子彈時間
MAMMA 的全稱是 Markerless Accurate Multi-person Motion Acquisition。說白了,它就是一套不需要任何物理標記點的多視角 3D 動捕流水線。
你只需要用 4 臺普通攝像機,哪怕是幾臺日常用的 iPhone,從不同角度同步拍攝,它就能把影片還原成高精度的 3D 數字人體模型。
更厲害的是,它專門啃下了多人互動的硬骨頭。以往無標記動捕最怕重疊遮擋,而 MAMMA 能夠精準追蹤雙人舞(比如 Bachata)、擁抱,甚至互相推拉摔倒這類高難度接觸動作。
與此同時,因為還原出了精確的三維人體與空間幾何,系統還能順便輸出《駭客帝國》同款的「子彈時間」環繞視角效果。
把視覺大模型串成流水線,還自帶 Web UI
能用極簡硬體做到這個精度,是因為團隊把這幾年開源視覺領域的頂級工具全部串聯了起來。
它的核心流水線分為五步:影片捕獲、影像分割、2D 關鍵點定位、3D 姿態最佳化與場景視覺化。
在底層,團隊用上了 Meta 的 SAM 2 和 SAM 3 進行精細分割,用 YOLOv12 找人,搭配 ViTPose 與 HRNet 提取姿態,最後將資料統一對齊到馬普所經典的 SMPL-X 具身人體模型中。視覺化部分則交給 Rerun 處理。
更貼心的是,專案並沒有停留在晦澀的學術程式碼層面。倉庫除了提供命令列,還做了一套基於 Flask 和 React 的 Web UI。
只要在本地啟動指令碼,瀏覽器開啟 3000 埠,點一下就能直接跑內建的 56 MB 四機位測試影片。此外,官方還放出了舞蹈、多人、戶外 iPhone 等 5 個不同場景的資料集。
為什麼重要
我們認為,MAMMA 是計算機視覺領域把前沿基礎模型組合落地的絕佳示範。它證明了一件事:靠強大的視覺理解和最佳化演算法,幾臺消費級鏡頭完全可以挑戰以往幾十萬美元的專業動捕棚。
對獨立遊戲開發者、影視特效創作者和虛擬主播團隊來說,這意味著動捕成本的斷崖式下跌。你不需要租用專業影棚,帶著幾部手機去戶外草地,就能錄下複雜的雙人打鬥或互動動作。
不過目前它也有門檻。程式碼雖然放出了推理與訓練流程,但採用的是非商業科研用途許可證,商業團隊暫時無法直接接入產線;同時多相機的標定與 3D 最佳化依然需要吃一定的 GPU 算力。
但不管怎麼看,動捕行業「去標記化」的趨勢已經不可逆轉。當演算法越來越聰明,昂貴的專用硬體最終都將被普通攝像頭取代。
來源 (1)
- github.com(在新分頁開啟)原文github.com