跳到正文
IFAI

开源项目

MAMMA 开源:只需 4 台普通摄像机,搞定多人 3D 动作捕捉

首次发布 传播指数 48

马普所和 CMU 开源无标记动捕系统 MAMMA,仅用 4 台普通摄像机甚至手机拍摄的多视角视频,就能转成高精度 3D 人体模型。它无需穿戴任何物理标记点,能精准追踪跳舞、拥抱等复杂互动,还能做出《黑客帝国》同款子弹时间效果。代码与 Web UI 已在 GitHub 开放。

过去要做专业的多人动作捕捉,画面通常很夸张:演员穿戴贴满反光小球的紧身衣,四周架设几十台昂贵的动捕摄像机。如果遇到两个人跳舞或者拥抱,身体互相遮挡,捕捉点很容易跟丢。

现在,来自马普所智能系统研究所(MPI-IS)和卡内基梅隆大学(CMU)的研究团队打算彻底改变这一现状。他们入选 CVPR 2026 Oral 的最新开源系统 MAMMA,把多人 3D 动捕的硬件门槛压到了 4 台普通摄像机。

扔掉动捕衣,4 台手机复现子弹时间

MAMMA 的全称是 Markerless Accurate Multi-person Motion Acquisition。说白了,它就是一套不需要任何物理标记点的多视角 3D 动捕流水线。

你只需要用 4 台普通摄像机,哪怕是几台日常用的 iPhone,从不同角度同步拍摄,它就能把视频还原成高精度的 3D 数字人体模型。

更厉害的是,它专门啃下了多人互动的硬骨头。以往无标记动捕最怕重叠遮挡,而 MAMMA 能够精准追踪双人舞(比如 Bachata)、拥抱,甚至互相推拉摔倒这类高难度接触动作。

与此同时,因为还原出了精确的三维人体与空间几何,系统还能顺便输出《黑客帝国》同款的「子弹时间」环绕视角效果。

把视觉大模型串成流水线,还自带 Web UI

能用极简硬件做到这个精度,是因为团队把这几年开源视觉领域的顶级工具全部串联了起来。

它的核心流水线分为五步:视频捕获、图像分割、2D 关键点定位、3D 姿态优化与场景可视化。

在底层,团队用上了 Meta 的 SAM 2 和 SAM 3 进行精细分割,用 YOLOv12 找人,搭配 ViTPose 与 HRNet 提取姿态,最后将数据统一对齐到马普所经典的 SMPL-X 具身人体模型中。可视化部分则交给 Rerun 处理。

更贴心的是,项目并没有停留在晦涩的学术代码层面。仓库除了提供命令行,还做了一套基于 Flask 和 React 的 Web UI。

只要在本地启动脚本,浏览器打开 3000 端口,点一下就能直接跑内置的 56 MB 四机位测试视频。此外,官方还放出了舞蹈、多人、户外 iPhone 等 5 个不同场景的数据集。

为什么重要

我们认为,MAMMA 是计算机视觉领域把前沿基础模型组合落地的绝佳示范。它证明了一件事:靠强大的视觉理解和优化算法,几台消费级镜头完全可以挑战以往几十万美元的专业动捕棚。

对独立游戏开发者、影视特效创作者和虚拟主播团队来说,这意味着动捕成本的断崖式下跌。你不需要租用专业影棚,带着几部手机去户外草地,就能录下复杂的双人打斗或互动动作。

不过目前它也有门槛。代码虽然放出了推理与训练流程,但采用的是非商业科研用途许可证,商业团队暂时无法直接接入产线;同时多相机的标定与 3D 优化依然需要吃一定的 GPU 算力。

但不管怎么看,动捕行业「去标记化」的趋势已经不可逆转。当算法越来越聪明,昂贵的专用硬件最终都将被普通摄像头取代。

来源 (1)

  1. [1]

每日 AI 内容精选