跳到正文
IFAI

AI科研

Meta 发布多智能体世界模型 Overseer:给虚拟世界装监控,让多个 AI 视角一致

首次发布 传播指数 36

Meta 推出多智能体世界模型 Overseer。不同于以往单角色模型,它在 AI 第一人称视角外引入类似监控的固定辅助视角,让多个智能体在同一环境中行动时画面保持同步,已在 Minecraft 等游戏中验证。目前模型未开源,仅公开了数据集。

Meta 发布多智能体世界模型 Overseer:给虚拟世界装监控,让多个 AI 视角一致
图:arxiv.org

如果两个人联机打游戏,你眼睁睁看着队友掉进了岩浆,队友屏幕里却还是一片平地,这游戏肯定没法玩了。

这恰恰是之前视频世界模型的死穴。以前的模型基本只能为单个角色生成画面,一旦让多个 AI 进到同一个环境里,大家各自的第一人称视角很容易自说自话,瞬间穿帮。

Meta 团队发布了多智能体世界模型 Overseer。它解决的核心问题,就是让多个 AI 在同一个虚拟世界里互动时,不同视角看到的画面始终保持同步和一致。

给虚拟世界装上「监控摄像头」

AI 第一人称视角的难点在于晃动太大。智能体稍微转个头或者走两步,整个视野就彻底换了一套像素,模型根本分不清到底是周围的世界变了,还是只有镜头变了。

Meta 想了个很有意思的解法:除了给每个智能体生成主观视角,还在空间里放几个固定机位。

你可以把这些辅助机位想象成散布在虚拟世界各处的监控摄像头。因为机位在空间里是绝对不动的,画面一变,就代表真实环境里确实发生了动作。

这些固定机位成了连接所有 AI 的空间锚点。靠着这套参照系,模型不仅能死死盯住每个玩家的位置,还让不同视角的画面彻底对齐,谁在哪、干了什么都一清二楚。

靠 delta-VAE 把计算成本打下来

多生成几个视角的画面,听起来算力开销要成倍暴涨。但 Meta 在工程上耍了个聪明的花招。

监控画面大多是半静止的,大半块背景其实不会动。研究团队专门设计了一个叫 delta-VAE 的变分自编码器,它不去老老实实编码整张图,而是只计算每一帧相对于静态参考图的变化量。

这么一来,辅助机位占用的 token 数量被大幅压缩,模型既拿到了全局的稳定参照,又没有被恐怖的计算量拖垮。

在演示中,Overseer 已经搞定了《我的世界》(Minecraft)和经典射击游戏《毁灭战士》(Doom)的多人对局,甚至连真实世界的多机位视频也能稳稳同步。不过目前 Meta 还没开源模型权重,只公开了相关数据集和技术报告。

为什么重要

以往做生成式世界模型,大家都在卷单人画质和时长,但真实的虚拟现实、游戏联机以及机器人仿真,从来都不是单机游戏。

我们认为 Overseer 迈出的这一步非常聪明。它没有死磕极其复杂的三维物理引擎重建,而是借助几个廉价的静态视角和增量压缩,用相对轻量的方式给纯神经世界模型搭了个可靠的全局坐标系。

对于游戏开发者和具身智能团队来说,多机位数据合成一直是个大难题。虽然眼下模型还没开放下载,但 Meta 公开的数据集和这套「监控视角」架构,已经给多智能体仿真指了一条可行的路。

当然隐患也不是没有。如果换成极其庞大、充满遮挡物的复杂场景,死角里的监控覆盖不到,视角一致性还能维持多久,目前依然要打个问号。但无论如何,纯 AI 生成的多人交互世界,已经不再是空中楼阁了。

来源 (2)

  1. [1]
  2. [2]
    youtube.com(在新标签页打开)报道youtube.com

每日 AI 内容精选