跳到正文
IFAI

開源專案

NVIDIA 開源 Stream Render H3:用影片模型把遊戲粗模即時變成大片

首次發布 傳播指數 48

NVIDIA 釋出並開源 Stream Render H3,利用 MiniMax H3 影片模型將遊戲引擎輸出的簡單語義圖即時渲染成高畫質畫面。玩家可通過參考圖一鍵切換風格;不過實現即時需 8 塊 GP200 GPU,整套模型體積超 200GB。

圖:nvlabs.github.io

NVIDIA 的 Stream Render H3 是一個把傳統遊戲畫面即時替換成電影級影片的開源渲染系統。

它接管了傳統遊戲引擎裡的渲染管線。遊戲本身只負責算物理、碰撞和玩家操作,畫面的光影、材質和真實細節,全由後端的影片擴散模型即時生成。

它能做什麼

在官方給出的賽車演示裡,跑在瀏覽器裡的 three.js 遊戲只輸出粗糙的色塊畫面。但玩家在螢幕上看到的,是一段光影逼真、動態自然的真實賽車影片。

更有意思的是風格遷移。只要給系統投餵一張參考圖片或一段文字提示詞,整個畫面的環境外觀和賽車造型就會立刻跟著改變。

換句話說,同一個遊戲邏輯,換一張圖就能從寫實都市拉力賽變成復古畫素風或科幻廢土風,不需要美術團隊重做一套資產。

怎麼做到的

Stream Render H3 採用的核心機制,是把世界邏輯和視覺表現徹底拆開。

傳統引擎負責維持確定性狀態,包括地圖佈局、物體碰撞和攝像頭軌跡。這些內容被壓縮成一張中間層語義圖,每個畫素只用純色代表物體類別,完全不含光照和貼圖。

生成端基於開源影片模型 MiniMax H3,並接入了 Qwen 等文本與特徵編碼器。

研究團隊對擴散模型做了深度最佳化,把生成單幀畫面壓縮到只需兩個推理步驟,從而做到了按流式持續輸出連續畫面。

硬體門檻與開源現狀

目前 NVIDIA 已經把模型和程式碼完全開源,開發者可以在專案的 GitHub 主頁獲取完整的本地部署指南。

不過,想在本地跑起來門檻極高。整套系統加上 MiniMax H3 和各類編碼器模型,總檔案體積超過了 200GB。

更苛刻的是算力。官方演示的即時效果,是在配備了 8 塊 GP200 GPU 的企業級伺服器上跑出來的。如果只有單張消費級顯示卡,目前很難在本地實現即時流暢遊玩。

為什麼重要

這套方案給遊戲引擎指了一條很有想像力的新路。以前的遊戲畫質全靠美術資產堆砌和 3D 光柵化管線,而 Stream Render H3 證明了影片生成模型完全可以直接拿來當渲染器用。

它比早先只負責修飾畫面的神經網路技術走得更遠,直接把三維幾何渲染降維成了色塊翻譯。對於遊戲開發者來說,也許未來開發小型獨立遊戲時,只寫好物理規則就能靠 AI 輸出 3A 級別的畫面。

不過就現階段而言,它更像是一個面向圖形學研究者和算力大戶的實驗原型。極高的視訊記憶體開銷和多卡依賴,註定它離普通玩家的桌面還有很長一段距離。但它展現的技術方向,很可能會被下一代商業引擎迅速吸收。

來源 (1)

  1. [1]
    nvlabs.github.io(在新分頁開啟)原文nvlabs.github.io

每日 AI 內容精選