跳到正文
IFAI

開源專案

LingBot-World:開源即時互動世界模型,16 FPS 跑通長記憶

首次發布 傳播指數 48

robbyant 開源基於 Wan2.2 的世界模擬器 LingBot-World。它支援用文本或圖片生成可互動環境,能以 16 FPS、低於 1 秒延遲輸出 480P 與 720P 畫面,並具備分鐘級場景一致的長記憶。程式碼與權重已公開,為互動生成與機器人學習提供了開源方案。

LingBot-World:開源即時互動世界模型,16 FPS 跑通長記憶
圖:github.com

LingBot-World 是一個開源的即時互動世界模型,能把一張靜態圖片或一段文本提示詞,直接變成可以用鍵盤或控制器自由探索的動態場景。

這個專案由 robbyant 團隊打造,核心程式碼基於開源影片模型 Wan2.2 開發。它的目標很明確:打破閉源世界模擬器的壁壘,給遊戲開發、互動生成和機器人學習提供一套可以直接下載部署的開源底座。

它能做什麼

LingBot-World 最大的特點是兼顧了低延遲與長時間的一致性。

在生成效能上,它能以 16 FPS 的速度即時渲染畫面,端到端延遲控制在 1 秒以內,支援 480P 和 720P 兩種輸出解析度。使用者輸入一張起始圖之後,不僅能用鍵盤控制鏡頭在場景裡前後左右穿行,還能輸入新的提示詞即時改變環境,比如換天氣、換背景、新增新角色或特效。

風格覆蓋面也很寬,從寫實風景、科學模擬到二次元卡通都可以生成,甚至能模擬騎龍飛行或海底漫遊。

更有意思的是它的長期記憶能力。傳統的互動式生成模型很容易走幾步就「忘了」身後的場景,而 LingBot-World 維持了分鐘級的上下文一致性。你在場景裡轉一圈再走回原點,周圍的建築和物品依然保持原樣,不會憑空變形或消失。

怎麼跑起來與硬體門檻

在控制方式上,專案提供了不同分支。除了支援基礎的鍵盤漫遊,它還發布了基於相機位姿(Camera Poses)控制的 Base Cam 版本,以及直接基於動作指令驅動的 Base Act 版本。

程式碼和模型權重已經全部公開。使用者可以在 GitHub 檢出程式碼,並通過 Hugging Face 或 ModelScope 下載權重檔案。官方還陸續推出了針對速度最佳化的 Fast 推理指令碼與模型。

不過,要在本地完整跑起來,硬體門檻相當高。專案依賴 PyTorch 2.4 以上版本以及 flash-attn,官方給出的參考推理指令碼預設使用了 8 卡並行,配合 DiT 和 T5 的 FSDP 以及 Ulysses 分散式推理。普通單張消費級顯示卡很難直接執行全尺寸模型。

如果你只是想體驗它的互動效果,不需要自己配環境。團隊與 Reactor 合作推出了網頁端線上 Demo,進入瀏覽器就能直接上手試玩。

為什麼重要

此前能做到即時鍵盤操控的世界模型大都處於閉源測試狀態,比如 Google 的 Project Genie。LingBot-World 把模型架構、相機控制格式和權重完整端了出來,讓開發者和研究者第一次擁有了可二次開發的即時互動世界底座。

雖然 8 卡叢集的本地執行門檻把很多普通玩家攔在了門外,但對於機器人動作模擬和遊戲原型設計團隊來說,它提供了一個極其難得的低成本模擬沙盒。隨著社群後續針對單卡量化和輕量推理的最佳化,這類可互動世界模型有望很快走向桌面級應用。

來源 (1)

  1. [1]

每日 AI 內容精選