跳到正文
IFAI

AI科研

MoVerse:一張圖變 360° 全景世界,RTX 4090 跑出 8 幀即時漫遊

首次發布 傳播指數 36

研究人員公佈影片世界模型 MoVerse,僅憑單張普通影像即可構建支援即時互動漫遊的 360° 3D 場景。模型將空間構建與影片渲染解耦,藉助 3D 高斯技術,在單張 RTX 4090 顯示卡上實現每秒 8 幀即時渲染。目前程式碼與模型仍在合規審查中,預計後續開源。

MoVerse:一張圖變 360° 全景世界,RTX 4090 跑出 8 幀即時漫遊
圖:arxiv.org

拿出一張隨手拍的街景照片,現在的生成式 AI 頂多能幫你把它變成一段幾秒鐘的預設鏡頭影片。

但如果能直接按動方向鍵,走進照片背後的 360° 世界裡隨意漫遊,事情就變得完全不一樣了。

研究人員公佈了影片世界模型 MoVerse。它的核心賣點非常純粹:只要給它一張普通的窄視角圖片,它就能現場捏出一個能即時互動、自由探索的 3D 全景空間,而且在單張消費級顯示卡 NVIDIA RTX 4090 上,可以穩穩跑出每秒 8 幀。

先補全空間記憶,再解決畫面渲染

以往的世界模型想要做到可互動漫遊,最大的死穴在於既要維持遠距離空間幾何一致,又要保證即時輸出畫面,計算量往往大到必須依賴昂貴的雲端叢集。

MoVerse 之所以能在單張消費級顯示卡上跑起來,關鍵在於它把「世界構建」和「影片渲染」徹底拆成了兩碼事。

模型拿到一張窄視角照片後,第一步並不是直接猜下一秒的畫面,而是利用拓撲感知擴散模型,把缺失的周圍環境補齊,擴充套件成一張對齊重力的 360° 全景圖。

接著,它會通過幾何感知殘差預測,把這張全景圖直接升維成持久的 3D 高斯支架(3D Gaussian scaffold)。這個結構就像是整個場景的緻密空間記憶,哪怕鏡頭轉開再轉回來,房子和樹木依然在原位。

有了這個穩固的空間底座,最後一步才輪到影片渲染。研究團隊用雙向擴散模型做教師,蒸餾出一個因果自迴歸學生模型,專門按照使用者即時輸入的相機軌跡串流出連貫影片,從而將互動延遲嚴格壓在極低範圍內。

根據團隊展示的效果,這項技術對輸入風格並不挑剔,無論是寫實場景、卡通 3D,還是油畫乃至吉卜力手繪風格,都能順利生成全景漫遊。

消費級硬體跑得動,但畫面還很糙

單張 RTX 4090 能達到每秒 8 幀,這個速度雖然還沒到電競級的流暢,但已經跨過了「能用手柄或鍵盤即時操控」的互動門檻。

不過,天下沒有免費的午餐,MoVerse 目前的妥協也寫在臉上。

從現階段演示來看,生成畫面的解析度普遍偏低,貼圖細節有些模糊,邊緣也偶爾能看到偽影。它解決的是「空間連貫與即時互動」的底層骨架,暫時還顧不上頂級的畫質呈現。

至於什麼時候能親自上手,主頁上已經放出了程式碼入口。專案團隊表示,程式碼和模型目前正在接受公司內部的合規審查,預計耗時一個月左右,稽核完成後會把所有材料對外公開。

為什麼重要

這幾年大家看了太多生成短影片的 AI,它們畫質驚豔,但使用者只能當觀眾,根本無法決定鏡頭下一秒往哪走。

MoVerse 的價值在於給世界模型找到了一條極其務實的工程路徑。純神經渲染的世界模型太慢,純 3D 重建又缺少生成模型的泛化想像力,而 MoVerse 聰明地選擇了折中:用 3D 高斯做可複用的顯式空間記憶保底,再用蒸餾後的影片生成模型負責貼皮渲染。

對於獨立開發者和遊戲創作者來說,這意味著單圖生成可漫遊場景原型的門檻被砸到了地板上。你不需要先去租高配雲端伺服器,一臺帶 4090 的主力機就能跑起互動雛形。

我們認為,當前 8 幀和偏模糊的畫質並不會阻礙它的示範意義。在空間計算和互動世界模型的賽道上,先把延遲壓進可互動區間,再回過頭來堆畫質,往往才是真正能跑通產品化的打法。

來源 (1)

  1. [1]

每日 AI 內容精選