跳到正文
IFAI

開源專案

OpenAI 開源 3D 模型 Shap-E:一句話幾秒生成 3D 網格與 NeRF

首次發布 傳播指數 47

OpenAI 開源了 3D 生成模型 Shap-E,並在 GitHub 放出權重與推理程式碼。它能根據單條文本提示詞在數秒內直接生成隱式函式引數,渲染出紋理網格和 NeRF。相比上一代 Point-E 它收斂更快、質量更優,不過目前還只擅長簡單單物體生成。

OpenAI 開源 3D 模型 Shap-E:一句話幾秒生成 3D 網格與 NeRF
圖:analyticsindiamag.com

Shap-E 是 OpenAI 開源的 3D 生成模型。你只需要給它一句簡單的英文提示詞,它就能在幾秒鐘內直接生成帶紋理的 3D 網格模型,或者可供多角度渲染的神經輻射場(NeRF)。

對於想快速生成 3D 粗模的開發者來說,它最大的好處就是開箱即用,程式碼和模型權重都已經放出來了。

它能做什麼

傳統的 3D 生成模型往往只能輸出單一格式,而 Shap-E 走了一條新路子。它直接生成的是隱式函式的引數。

這意味著你拿到的同一個結果,既能直接轉換為帶紋理的 3D 幾何網格,也可以當作 NeRF 來進行多視角連續渲染。

對比 OpenAI 之前推出的 Point-E,Shap-E 帶來了很直觀的體驗升級。Point-E 輸出的只是一堆稀疏散亂的點雲,想要匯入引擎還得經歷複雜的後處理;而 Shap-E 幾秒鐘就能吐出成形的表面與貼圖。

怎麼做到的

按論文的介紹,Shap-E 的訓練分成了兩個階段。

第一階段,團隊先訓練了一個編碼器,專門把各類 3D 資產確定性地對映到隱式函式的引數空間裡。

第二階段,他們在這個引數空間上訓練了一個條件擴散模型,並餵給了它大量配對的文本與 3D 資料。

有意思的是,隱式函式引數對應的是一個更高維度的多表徵空間,但 Shap-E 的收斂速度反而比之前的 Point-E 更快,生成樣本的質量也相當或更勝一籌。

目前的限制與去哪體驗

雖然生成速度飛快,但現在的 Shap-E 離實用資產還有一段距離。

首先是視覺質量。生成的 3D 模型看起來依然比較粗糙,有些邊緣甚至帶點畫素感,質感並不精細。

其次是理解能力。它目前只擅長處理描述單一主體的簡單提示詞。如果你在提示詞裡塞進多個物體,或者組合好幾種複雜屬性,它往往很難把這些屬性準確繫結到對應的幾何體上。

但作為研究工具,它的門檻已經降得很低。OpenAI 已經在 GitHub 上公開了完整的程式碼倉庫,裡面包含模型權重、推理程式碼和示例,拉到本地就能跑起來。

為什麼重要

對獨立開發者和 3D 設計師來說,Shap-E 適合拿來當作概念草圖工具。它現在的精度完全達不到商用或上線的標準,但幾秒鐘出一個帶紋理的粗模,在前期構思階段足夠幫人快速定個型。

從技術路線上看,OpenAI 這一次走得挺聰明。它沒在傳統的點雲擴散上硬耗,而是直接把擴散模型和隱式函式、NeRF 結合起來,證明了高維多表徵生成不僅走得通,而且收斂更快。雖然離真正的「3D 版 DALL-E」還有不少坑要填,但它確實給開源社群趟出了一條實用的新路徑。

來源 (1)

  1. [1]
    analyticsindiamag.com(在新分頁開啟)原文analyticsindiamag.com

同類事件

過去類似的事,幫助理解這一則。

每日 AI 內容精選