跳到正文
IFAI

AI科研

Anchor World 亮相:用真实人体动作引导第一人称世界模拟

首次发布 传播指数 36

第一人称世界模拟器 Anchor World 公布。它支持输入 3D 人体动作与场景锚点图,直接渲染出人在空间中走动并与水槽、刀具交互的第一人称视频。这种动作驱动机制有望用于生成人形机器人的训练数据;目前代码正处于审核阶段。

Anchor World 亮相:用真实人体动作引导第一人称世界模拟
图:arxiv.org

过去大半年里,几乎所有的世界模拟器都在玩两套逻辑:要么像打游戏一样用键盘按键推着画面走,要么丢一段提示词让模型自由发挥。

但这两种方式做出来的视频,很难真正对应真实物理世界里一个人具体是怎么活动的。

一项名为 Anchor World 的新研究正式亮相。它换了个非常务实的思路:把真实记录下来的 3D 人体动作当成方向盘,直接渲染出人在空间里走动并操作物体的第一人称视频。

不仅能走,还能伸手拿刀和拧水龙头

Anchor World 的输入主要有两样东西:一段某个人在三维场景里移动的 3D 人体动作,以及几张被称为「锚点视图」的场景参考图。

所谓锚点视图,就是给模型提供一个基准坐标,告诉它这个房间的某个角落或操作台究竟长什么样。模型结合动作和文字描述的局部动态,就能直接生成流畅的第一人称视点视频。

更有意思的是交互细节。它不只生成人在屋里来回溜达的画面,还展示了非常精细的人体动作互动,比如走到水槽前伸手操作,或是从桌上拿起一把刀。

为了解决第一人称模拟常见的一个硬伤——第一人称视线里身体往往会出画或被截断,模型容易失去空间定位——研发团队在训练中引入了解耦的外部视角作为辅助监督。

简单来说,就是模型在后台能看到这个人在环境里的全身相对位置,从而确保生成的画面符合三维空间的几何一致性。论文测试表明,它的表现明显优于现有的 SOTA 基准。

为什么重要

具身智能和人形机器人当前面临的一大死穴,就是高质量的第一人称操作数据太少了。总不能雇上千人整天戴着头显录切菜、拧螺丝的视频。

Anchor World 最聪明的点,在于它找到了把动作捕捉数据直接换算成第一人称视觉训练集的路径。只要输入动作骨架和环境锚点,就能低成本批量生成机器人执行各种复杂任务的训练数据。

对开发者和具身智能团队来说,这个工具值得密切跟进。不过项目页面显示目前代码仍处于审核阶段,还未正式开放下载。

我们认为,它的隐患在于生成视频与物理引擎之间仍有距离。画面看着严丝合缝,不等于接触力学和微观碰撞真实有效;用这种合成视频训练出来的机器人,到真机部署时是否会出现动作幻觉,还需要现实硬件的进一步检验。

来源 (1)

  1. [1]

每日 AI 内容精选