跳到正文
IFAI

开源项目

LingBot-World:开源实时交互世界模型,16 FPS 跑通长记忆

首次发布 传播指数 48

robbyant 开源基于 Wan2.2 的世界模拟器 LingBot-World。它支持用文本或图片生成可交互环境,能以 16 FPS、低于 1 秒延迟输出 480P 与 720P 画面,并具备分钟级场景一致的长记忆。代码与权重已公开,为互动生成与机器人学习提供了开源方案。

LingBot-World:开源实时交互世界模型,16 FPS 跑通长记忆
图:github.com

LingBot-World 是一个开源的实时交互世界模型,能把一张静态图片或一段文本提示词,直接变成可以用键盘或控制器自由探索的动态场景。

这个项目由 robbyant 团队打造,核心代码基于开源视频模型 Wan2.2 开发。它的目标很明确:打破闭源世界模拟器的壁垒,给游戏开发、交互生成和机器人学习提供一套可以直接下载部署的开源底座。

它能做什么

LingBot-World 最大的特点是兼顾了低延迟与长时间的一致性。

在生成性能上,它能以 16 FPS 的速度实时渲染画面,端到端延迟控制在 1 秒以内,支持 480P 和 720P 两种输出分辨率。用户输入一张起始图之后,不仅能用键盘控制镜头在场景里前后左右穿行,还能输入新的提示词实时改变环境,比如换天气、换背景、添加新角色或特效。

风格覆盖面也很宽,从写实风景、科学仿真到二次元卡通都可以生成,甚至能模拟骑龙飞行或海底漫游。

更有意思的是它的长期记忆能力。传统的交互式生成模型很容易走几步就「忘了」身后的场景,而 LingBot-World 维持了分钟级的上下文一致性。你在场景里转一圈再走回原点,周围的建筑和物品依然保持原样,不会凭空变形或消失。

怎么跑起来与硬件门槛

在控制方式上,项目提供了不同分支。除了支持基础的键盘漫游,它还发布了基于相机位姿(Camera Poses)控制的 Base Cam 版本,以及直接基于动作指令驱动的 Base Act 版本。

代码和模型权重已经全部公开。用户可以在 GitHub 检出代码,并通过 Hugging Face 或 ModelScope 下载权重文件。官方还陆续推出了针对速度优化的 Fast 推理脚本与模型。

不过,要在本地完整跑起来,硬件门槛相当高。项目依赖 PyTorch 2.4 以上版本以及 flash-attn,官方给出的参考推理脚本默认使用了 8 卡并行,配合 DiT 和 T5 的 FSDP 以及 Ulysses 分布式推理。普通单张消费级显卡很难直接运行全尺寸模型。

如果你只是想体验它的交互效果,不需要自己配环境。团队与 Reactor 合作推出了网页端在线 Demo,进入浏览器就能直接上手试玩。

为什么重要

此前能做到实时键盘操控的世界模型大都处于闭源测试状态,比如 Google 的 Project Genie。LingBot-World 把模型架构、相机控制格式和权重完整端了出来,让开发者和研究者第一次拥有了可二次开发的实时交互世界底座。

虽然 8 卡集群的本地运行门槛把很多普通玩家拦在了门外,但对于机器人动作仿真和游戏原型设计团队来说,它提供了一个极其难得的低成本仿真沙盒。随着社区后续针对单卡量化和轻量推理的优化,这类可交互世界模型有望很快走向桌面级应用。

来源 (1)

  1. [1]

每日 AI 内容精选