跳到正文
IFAI

AI科研

Dreamer 4 亮相:靠「脑内模拟」推演,首个纯离线在《我的世界》挖出钻石的 AI

首次发布 传播指数 49

Dreamer 4 亮相,能完全在精准的世界模型内部靠强化学习进行训练。它在「想象」中推演超 2 万步键鼠操作,成为首个不与环境交互、纯靠离线数据在《我的世界》里挖出钻石的 AI。这种无需实机试错的想象训练,为机器人等高风险场景提供了可行路径。

Dreamer 4 亮相:靠「脑内模拟」推演,首个纯离线在《我的世界》挖出钻石的 AI
图:arxiv.org

让 AI 去真实世界或者游戏里摸爬滚打,成本其实高得吓人。机器人撞坏一台就是几十万,而在复杂的开放世界游戏里,从零乱试也可能几百万步都毫无进展。

解决办法之一,是让 AI 先在脑子里把这个世界建出来,然后在「想象」中做推演。由 Danijar Hafner 与 Wilson Yan 共同主导的研究团队公布了新一代智能体 Dreamer 4,把这种脑内模拟推到了一个惊人的新高度。

它成了首个不需要与环境发生任何实时交互、纯靠离线数据在《我的世界》(Minecraft)中挖出钻石的 AI。

脑内模拟器:在单张 GPU 上做到实时交互

在此之前,世界模型(World Models)在复杂环境下面临一个尴尬的瓶颈:画面看着逼真,但只要一涉及复杂的物体交互,模型就会产生严重幻觉,根本没办法用来训练精确的动作。

Dreamer 4 改变了这一点。它在《我的世界》这样极其复杂的开放沙盒里,不仅能精准预测物理交互,还能准确还原底层游戏机制,表现大幅超越了以往的世界模型。

更厉害的是,团队采用了一种名为 shortcut forcing 的训练目标,并配合高效的 Transformer 架构,直接让这个高精度的世界模型在单张 GPU 上就能跑出实时的交互推理速度。

这意味着 AI 可以在自己的脑海里极快地模拟成千上万种可能性,而不需要昂贵的计算集群。

超过 2 万步操作,全凭「想象」搞定

在《我的世界》里挖到钻石,是强化学习领域出了名的长程规划难题。

玩家得从一无所有开始砍树、造工作台、做木镐、挖石头、升级石镐、下矿洞、找铁矿烧铁,最后一路下潜到地底深处避开岩浆挖到钻石。面对原始像素输入,AI 需要连续做出超过 2 万次精准的键盘和鼠标操作,稍有失误就会前功尽弃。

以往的 AI 要完成这个任务,往往需要跟游戏环境交互数百万次来不断试错。而 Dreamer 4 面临的规则更为严苛:完全不准接触真实游戏环境,只能看离线数据。

研究人员让模型从大量无标签视频中汲取世界常识,只用极少量的标注数据来学习动作条件。剩下的所有强化学习训练,全部在它自己脑内推演的高保真世界模型里完成。最终,Dreamer 4 在没有任何实机交互的情况下成功挖到了钻石。

为什么重要

我们认为,这项研究真正的价值从来不是通关《我的世界》,而是给具身智能和机器人领域指明了一条可行的路线。

在机器人领域,让机械臂或四足机器人在真实物理世界里做几万次暴力试错,既危险又极其缓慢。如果摔坏了零件,实验就得停下来修。但如果在现实中只搜集无标签的视频数据,再让智能体在精准的世界模型里「白嫖」几万小时的脑内模拟,训练成本会呈指数级下降。

Dreamer 4 的聪明之处在于,它证明了即使只有少量动作标注,模型也能通过海量无标签视频补齐通用的世界认知,并且能在单张 GPU 上完成低延迟的推演。这就让纯离线的长程决策从理论走向了可用。

不过,虚拟游戏虽然机制复杂,其物理规则依然是确定的代码逻辑。当这套方案移植到真实物理世界时,传感器噪声、光照变化以及现实材料形变,会不会瞬间打破世界模型的幻想,依然是接下来最大的悬念。但这无疑是具身智能走向纯离线学习极为漂亮的一步。

来源 (2)

  1. [1]
    arxiv.org(在新标签页打开)原文arxiv.org
  2. [2]

每日 AI 内容精选