Meta 釋出多智慧體世界模型 Overseer:給虛擬世界裝監控,讓多個 AI 視角一致
Meta 推出多智慧體世界模型 Overseer。不同於以往單角色模型,它在 AI 第一人稱視角外引入類似監控的固定輔助視角,讓多個智慧體在同一環境中行動時畫面保持同步,已在 Minecraft 等遊戲中驗證。目前模型未開源,僅公開了資料集。

如果兩個人聯機打遊戲,你眼睜睜看著隊友掉進了岩漿,隊友螢幕裡卻還是一片平地,這遊戲肯定沒法玩了。
這恰恰是之前影片世界模型的死穴。以前的模型基本只能為單個角色生成畫面,一旦讓多個 AI 進到同一個環境裡,大家各自的第一人稱視角很容易自說自話,瞬間穿幫。
Meta 團隊釋出了多智慧體世界模型 Overseer。它解決的核心問題,就是讓多個 AI 在同一個虛擬世界裡互動時,不同視角看到的畫面始終保持同步和一致。
給虛擬世界裝上「監控攝像頭」
AI 第一人稱視角的難點在於晃動太大。智慧體稍微轉個頭或者走兩步,整個視野就徹底換了一套畫素,模型根本分不清到底是周圍的世界變了,還是隻有鏡頭變了。
Meta 想了個很有意思的解法:除了給每個智慧體生成主觀視角,還在空間裡放幾個固定機位。
你可以把這些輔助機位想像成散佈在虛擬世界各處的監控攝像頭。因為機位在空間裡是絕對不動的,畫面一變,就代表真實環境裡確實發生了動作。
這些固定機位成了連線所有 AI 的空間錨點。靠著這套參照系,模型不僅能死死盯住每個玩家的位置,還讓不同視角的畫面徹底對齊,誰在哪、幹了什麼都一清二楚。
靠 delta-VAE 把計算成本打下來
多生成幾個視角的畫面,聽起來算力開銷要成倍暴漲。但 Meta 在工程上耍了個聰明的花招。
監控畫面大多是半靜止的,大半塊背景其實不會動。研究團隊專門設計了一個叫 delta-VAE 的變分自編碼器,它不去老老實實編碼整張圖,而是隻計算每一幀相對於靜態參考圖的變化量。
這麼一來,輔助機位佔用的 token 數量被大幅壓縮,模型既拿到了全域性的穩定參照,又沒有被恐怖的計算量拖垮。
在演示中,Overseer 已經搞定了《我的世界》(Minecraft)和經典射擊遊戲《毀滅戰士》(Doom)的多人對局,甚至連真實世界的多機位影片也能穩穩同步。不過目前 Meta 還沒開源模型權重,只公開了相關資料集和技術報告。
為什麼重要
以往做生成式世界模型,大家都在卷單人畫質和時長,但真實的虛擬現實、遊戲聯機以及機器人模擬,從來都不是單機遊戲。
我們認為 Overseer 邁出的這一步非常聰明。它沒有死磕極其複雜的三維物理引擎重建,而是藉助幾個廉價的靜態視角和增量壓縮,用相對輕量的方式給純神經世界模型搭了個可靠的全域性座標系。
對於遊戲開發者和具身智慧團隊來說,多機位資料合成一直是個大難題。雖然眼下模型還沒開放下載,但 Meta 公開的資料集和這套「監控視角」架構,已經給多智慧體模擬指了一條可行的路。
當然隱患也不是沒有。如果換成極其龐大、充滿遮擋物的複雜場景,死角里的監控覆蓋不到,視角一致性還能維持多久,目前依然要打個問號。但無論如何,純 AI 生成的多人互動世界,已經不再是空中樓閣了。
來源 (2)
- arxiv.org(在新分頁開啟)原文arxiv.org
- youtube.com(在新分頁開啟)報導youtube.com