Stability AI 聯手 NVIDIA 推出 SD3.5 NIM:企業生成提速 1.8 倍
Stability AI 聯合 NVIDIA 推出 Stable Diffusion 3.5 NIM 微服務,加速企業級部署。基於 TensorRT 最佳化,在 H100 上影像生成速度比 PyTorch 提升 1.8 倍,並把 SD3.5 Large 與 Depth、Canny 等 ControlNet 打包進同一容器。

很多企業在本地部署開源生圖模型時,最頭疼的往往不是顯示卡夠不夠多,而是怎麼把環境調優、把推理延遲壓下來,以及怎麼同時伺候好幾個 ControlNet 外掛。
Stability AI 聯手輝達交出了一份針對企業的作業:推出 Stable Diffusion 3.5 NIM 微服務。說白了,就是把頂級的 SD3.5 Large 模型做成了一個開箱即用的標準容器映象。
這一套方案目前已經上線 build.nvidia.com,模型權重依然可以從 Hugging Face 直接下載。
速度翻了將近一倍,還把外掛塞進了同一個容器
對企業生產環境來說,最硬的指標永遠是延遲和吞吐。
根據官方公佈的測試資料,在輝達 H100 顯示卡上,經過 TensorRT 最佳化的 SD3.5 NIM 生成一張圖耗時約 3700 毫秒,而原生 PyTorch 環境下則需要 6800 毫秒。整體效能提升達到了 1.8 倍。
除了速度,這次更實用的改變在於部署方式的簡化。
以前做控圖生成,工程師往往需要給主模型、Depth 深度控制網和 Canny 邊緣控制網分別配置服務。這次的 NIM 映象直接把 SD3.5 Large 以及 Depth、Canny 兩個 ControlNet 打包進同一個容器,企業不用再單獨維護多套執行環境。
硬體支援方面,該服務適配了輝達企業級與資料中心級別的 Ada 和 Blackwell 架構顯示卡,後續還會逐步擴充套件支援更多模型。
商業許可模式延續了 Stability AI 的社群許可規則。年營收低於 100 萬美元的團隊可以免費商用,而超過 100 萬美元的企業則需要購買企業授權以獲取定製支援。
為什麼重要
這對於正在搭建內部設計流或營銷素材流的團隊來說,算是一個能省下大量運維成本的節點。
我們認為,自建開源生圖管線最勸退人的地方就是推理工程化。單次生成耗時接近 7 秒的話,在互動式設計或者批次生產場景裡體驗會非常割裂,壓縮到 3.7 秒意味著很多多模型級聯的工作流終於能跑在合理的時間內了。
這一步也看出了輝達推行 NIM 微服務的意圖。輝達不想只當賣卡的硬體商,而是想靠這種深度繫結 TensorRT 和自身硬體架構的開箱即用方案,讓企業在基礎設施層面離不開輝達的資料中心 GPU,構築更深的企業級壁壘。
不過門檻依然存在。這個方案主要面向高階企業級算力,硬體要求落在了 Ada 和新一代 Blackwell 上,小團隊如果自建叢集成本依然不低。但對已經買了雲端高算力的企業而言,現在把原先鬆散的開源部署換成標準化 NIM,看起來是個價效比很高的升級選擇。
來源 (1)
- stability.ai(在新分頁開啟)原文stability.ai