跳到正文
IFAI

大模型

NVIDIA 釋出 Cosmos 世界模型:把千里路測放大成數十億虛擬里程

首次發布 傳播指數 60

NVIDIA 在 CES 上推出生成式世界基礎模型平臺 Cosmos。它被接入自動駕駛三計算方案,包含模型、分詞器與影片管線,能將數千英里人類駕駛資料擴增為數十億英里虛擬里程,幫開發者以極低成本生成極端駕駛場景。模型已在 Hugging Face 開源。

NVIDIA 釋出 Cosmos 世界模型:把千里路測放大成數十億虛擬里程
圖:blogs.nvidia.com

NVIDIA Cosmos 是一個面向自動駕駛和機器人開發的開源世界基礎模型平臺。它把生成式模型、分詞器與影片處理管線打包在一起,核心目的就是把車隊採集到的數千英里真實路測,在虛擬空間裡擴充成數十億英里駕駛里程。

在自動駕駛研發流程中,它補上了資料飛輪的關鍵短板。結合 Omniverse 模擬平臺,Cosmos 可以針對極端罕見路況做高擬真場景生成與閉環評估,省去海量實車路測和資料清洗成本。目前 Waabi、Wayve 已經在用它檢索極端駕駛場景,Uber 也帶著路測資料集接入合作。

架構與硬體門檻

Cosmos 3 採用了統一的 Mixture-of-Transformers 架構,把能力拆成了兩個核心塔。推理塔接收文本和影像,負責物理常識理解和任務規劃;生成塔則同時吃進文本、視覺、音訊和動作指令,輸出連續的多視角影片與動作策略。

模型家族按硬體規格分成了三檔大小,適用不同場景。

最大的是 64B 的 Cosmos3-Super,需要 H200、B200 這類資料中心算力,主要用來生成超高畫質的合成數據,或給小模型做知識蒸餾。

中間檔是 16B 的 Cosmos3-Nano,能在 RTX Pro 6000 或單張 H100 上跑起來,兼顧了生成質量與推理速度,是大多數開發者用來做二次訓練的基礎模型。

最小的是 4B 的 Cosmos3-Edge,專門針對邊緣裝置打造,可以直接部署在 Jetson AGX Orin 或 Thor 車載晶片上,負責即時的動作策略和視覺推理。

怎麼跑起來

Cosmos 的模型權重已通過開放模型許可證在 Hugging Face 和 NVIDIA NGC 上提供,配套程式碼也已開源在 GitHub 上,後續還會上線 NVIDIA NIM 微服務。

本地動手的門檻主要在視訊記憶體和許可權。在用 diffusers 指令碼呼叫之前,需要先在 Hugging Face 申請並通過 Cosmos-1.0-Guardrail 安全護欄的授權,登入帶許可權的 Read Token。

官方倉庫提供了詳細的 Cosmos Cookbook,包含端到端訓練框架、資料篩選工具以及相容 OpenAI 格式的 vLLM 部署方案。即使是跑預設的 Nano 版本,第一次也會下載 16B 的權重,擴散步數的算力開銷較大,需要準備充足的視訊記憶體和生成時間。

為什麼重要

對於自動駕駛演算法團隊和機器人開發者來說,Cosmos 是目前少有覆蓋全尺寸、且同時打通推理與生成的開源物理 AI 底座。它把過去只有頭部大廠才能負擔的資料合成與模擬管線開放了出來,省去了從頭搭建世界模型的鉅額成本。

但對獨立開發者來說,它的硬體門檻依然不低。哪怕是中間檔的 Nano 版本,也需要專業工作站級顯示卡才能跑動,加上必須通過安全護欄申請才能拉取權重,它本質上是一套面向產業工程落地的嚴肅生產力工具,適合團隊深入評估。

來源 (2)

  1. [1]
    blogs.nvidia.com(在新分頁開啟)原文blogs.nvidia.com
  2. [2]
    github.com(在新分頁開啟)報導github.com

話題追蹤NVIDIA 人形機器人開發平臺

這個話題的歷次新聞,最新的在上面。

  1. Boston Dynamics 牽手 NVIDIA:純電 Atlas 裝上 Jetson Thor
  2. NVIDIA 釋出 Mega 藍圖:用數字孿生在大規模部署前操練機器人機群
  3. NVIDIA 開放 Sensor RTX 搶先體驗:用物理模擬加速自動駕駛與機器人研發
  4. NVIDIA 釋出 Cosmos 世界模型:把千里路測放大成數十億虛擬里程本則
  5. NVIDIA 釋出 Isaac GR00T 藍圖:用少量動作合成海量訓練資料

每日 AI 內容精選