Stability AI 聯手 NVIDIA 最佳化 SDXL：H100 出圖只需 1.47 秒

玩過生圖模型的人都知道，Stable Diffusion XL 出圖質量確實比老版本上了一大截，但那個推理速度和視訊記憶體佔用也跟著水漲船高。

Stability AI 宣佈拉來 NVIDIA 聯手搞了一波大提速。他們把 NVIDIA 的 TensorRT 推理最佳化框架直接懟進了 SDXL 裡面，還把轉換好的 ONNX 權重開放給了全球開發者。

效果立竿見影。在 NVIDIA 頂級的 H100 顯示卡上，生一張高畫質大圖只需要 1.47 秒，整整提速了一倍。

越強的顯示卡，壓榨出的油水越多

說白了，TensorRT 就是 NVIDIA 專門給自家顯示卡量身定做的硬體級推理加速器。它會把原本臃腫的模型結構做剪枝、融合運算元，讓顯示卡在跑模型的時候少走很多彎路。

Stability AI 公佈了一組實測資料，對比了非最佳化的基線模型和 TensorRT 最佳化後的表現。

在生成延遲方面，入門級伺服器卡 A10 跑快了 13%，A100 快了 26%，而到了 H100 上，延遲直接降了 41%。

如果你看吞吐量，提升就更明顯了。A10 的吞吐量提升了 20%，A100 提升了 33%，而在 H100 上的吞吐量足足飆升了 70%。

看得出來，顯示卡規格越高，TensorRT 最佳化榨出來的效能反而越嚇人。

Stability AI 還透露，接下來他們還在折騰 8-bit 量化這類更激進的最佳化手段，目的就是讓速度更快、門檻更低。

為什麼重要

對於每天要跑成千上萬張圖的商業平臺或重度創作者來說，這個最佳化的價值非常直觀，那就是真金白銀省錢。

雲端算力租金有多貴大家都清楚，吞吐量提升 70%、延遲壓到 1.5 秒以內，意味著同樣的伺服器叢集能承接接近兩倍的使用者請求，或者反過來說，你可以直接把伺服器賬單砍掉一大塊。

對整個文生圖生態而言，這也給 Midjourney 這樣的閉源競品施加了壓力。開源模型不僅免費、可本地微調，現在連原本被詬病的生成速度也被 NVIDIA 的生態硬生生追了上來。

我們認為，Stability AI 這步棋走得非常現實，也非常聰明。自己吭哧吭哧去底層改程式碼，不如直接抱緊 NVIDIA 的大腿，用官方現成的底層工具包把算力吃透。

不過這裡也有一個顯而易見的侷限：TensorRT 是 NVIDIA 的私有領地，AMD 顯示卡或者普通使用者的消費級配置很難直接完全享受這些企業級紅利。它短期內利好的主要是用企業級雲算力的開發者，個人電腦要吃到甜頭，大概還得等後續的 8-bit 量化適配到位。