Dreamer 4 亮相:靠「腦內模擬」推演,首個純離線在《我的世界》挖出鑽石的 AI
Dreamer 4 亮相,能完全在精準的世界模型內部靠強化學習進行訓練。它在「想像」中推演超 2 萬步鍵鼠操作,成為首個不與環境互動、純靠離線資料在《我的世界》裡挖出鑽石的 AI。這種無需實機試錯的想像訓練,為機器人等高風險場景提供了可行路徑。

讓 AI 去真實世界或者遊戲裡摸爬滾打,成本其實高得嚇人。機器人撞壞一臺就是幾十萬,而在複雜的開放世界遊戲裡,從零亂試也可能幾百萬步都毫無進展。
解決辦法之一,是讓 AI 先在腦子裡把這個世界建出來,然後在「想像」中做推演。由 Danijar Hafner 與 Wilson Yan 共同主導的研究團隊公佈了新一代智慧體 Dreamer 4,把這種腦內模擬推到了一個驚人的新高度。
它成了首個不需要與環境發生任何即時互動、純靠離線資料在《我的世界》(Minecraft)中挖出鑽石的 AI。
腦內模擬器:在單張 GPU 上做到即時互動
在此之前,世界模型(World Models)在複雜環境下面臨一個尷尬的瓶頸:畫面看著逼真,但只要一涉及複雜的物體互動,模型就會產生嚴重幻覺,根本沒辦法用來訓練精確的動作。
Dreamer 4 改變了這一點。它在《我的世界》這樣極其複雜的開放沙盒裡,不僅能精準預測物理互動,還能準確還原底層遊戲機制,表現大幅超越了以往的世界模型。
更厲害的是,團隊採用了一種名為 shortcut forcing 的訓練目標,並配合高效的 Transformer 架構,直接讓這個高精度的世界模型在單張 GPU 上就能跑出即時的互動推理速度。
這意味著 AI 可以在自己的腦海裡極快地模擬成千上萬種可能性,而不需要昂貴的計算叢集。
超過 2 萬步操作,全憑「想像」搞定
在《我的世界》裡挖到鑽石,是強化學習領域出了名的長程規劃難題。
玩家得從一無所有開始砍樹、造工作臺、做木鎬、挖石頭、升級石鎬、下礦洞、找鐵礦燒鐵,最後一路下潛到地底深處避開岩漿挖到鑽石。面對原始畫素輸入,AI 需要連續做出超過 2 萬次精準的鍵盤和滑鼠操作,稍有失誤就會前功盡棄。
以往的 AI 要完成這個任務,往往需要跟遊戲環境互動數百萬次來不斷試錯。而 Dreamer 4 面臨的規則更為嚴苛:完全不準接觸真實遊戲環境,只能看離線資料。
研究人員讓模型從大量無標籤影片中汲取世界常識,只用極少量的標註資料來學習動作條件。剩下的所有強化學習訓練,全部在它自己腦內推演的高保真世界模型裡完成。最終,Dreamer 4 在沒有任何實機互動的情況下成功挖到了鑽石。
為什麼重要
我們認為,這項研究真正的價值從來不是通關《我的世界》,而是給具身智慧和機器人領域指明瞭一條可行的路線。
在機器人領域,讓機械臂或四足機器人在真實物理世界裡做幾萬次暴力試錯,既危險又極其緩慢。如果摔壞了零件,實驗就得停下來修。但如果在現實中只蒐集無標籤的影片資料,再讓智慧體在精準的世界模型裡「白嫖」幾萬小時的腦內模擬,訓練成本會呈指數級下降。
Dreamer 4 的聰明之處在於,它證明了即使只有少量動作標註,模型也能通過海量無標籤影片補齊通用的世界認知,並且能在單張 GPU 上完成低延遲的推演。這就讓純離線的長程決策從理論走向了可用。
不過,虛擬遊戲雖然機制複雜,其物理規則依然是確定的程式碼邏輯。當這套方案移植到真實物理世界時,感測器噪聲、光照變化以及現實材料形變,會不會瞬間打破世界模型的幻想,依然是接下來最大的懸念。但這無疑是具身智慧走向純離線學習極為漂亮的一步。
來源 (2)
- arxiv.org(在新分頁開啟)原文arxiv.org
- @danijarh(在新分頁開啟)討論x.com