Stability AI 联手 NVIDIA 优化 SDXL：H100 出图只需 1.47 秒

首次发布 2023年8月23日 UTC 16:30传播指数 35

Stability AI 宣布与 NVIDIA 合作，通过 TensorRT 深度优化 SDXL 并开放 ONNX 权重。在 H100 GPU 上模型性能翻倍，高清图生成仅需 1.47 秒，延迟降低 41%、吞吐量提升 70%。生图效率大幅提高，能直接降低创作者与开发者的部署成本。

玩过生图模型的人都知道，Stable Diffusion XL 出图质量确实比老版本上了一大截，但那个推理速度和显存占用也跟着水涨船高。

Stability AI 宣布拉来 NVIDIA 联手搞了一波大提速。他们把 NVIDIA 的 TensorRT 推理优化框架直接怼进了 SDXL 里面，还把转换好的 ONNX 权重开放给了全球开发者。

效果立竿见影。在 NVIDIA 顶级的 H100 显卡上，生一张高清大图只需要 1.47 秒，整整提速了一倍。

越强的显卡，压榨出的油水越多

说白了，TensorRT 就是 NVIDIA 专门给自家显卡量身定做的硬件级推理加速器。它会把原本臃肿的模型结构做剪枝、融合算子，让显卡在跑模型的时候少走很多弯路。

Stability AI 公布了一组实测数据，对比了非优化的基线模型和 TensorRT 优化后的表现。

在生成延迟方面，入门级服务器卡 A10 跑快了 13%，A100 快了 26%，而到了 H100 上，延迟直接降了 41%。

如果你看吞吐量，提升就更明显了。A10 的吞吐量提升了 20%，A100 提升了 33%，而在 H100 上的吞吐量足足飙升了 70%。

看得出来，显卡规格越高，TensorRT 优化榨出来的性能反而越吓人。

Stability AI 还透露，接下来他们还在折腾 8-bit 量化这类更激进的优化手段，目的就是让速度更快、门槛更低。

对于每天要跑成千上万张图的商业平台或重度创作者来说，这个优化的价值非常直观，那就是真金白银省钱。

云端算力租金有多贵大家都清楚，吞吐量提升 70%、延迟压到 1.5 秒以内，意味着同样的服务器集群能承接接近两倍的用户请求，或者反过来说，你可以直接把服务器账单砍掉一大块。

对整个文生图生态而言，这也给 Midjourney 这样的闭源竞品施加了压力。开源模型不仅免费、可本地微调，现在连原本被诟病的生成速度也被 NVIDIA 的生态硬生生追了上来。

我们认为，Stability AI 这步棋走得非常现实，也非常聪明。自己吭哧吭哧去底层改代码，不如直接抱紧 NVIDIA 的大腿，用官方现成的底层工具包把算力吃透。

不过这里也有一个显而易见的局限：TensorRT 是 NVIDIA 的私有领地，AMD 显卡或者普通用户的消费级配置很难直接完全享受这些企业级红利。它短期内利好的主要是用企业级云算力的开发者，个人电脑要吃到甜头，大概还得等后续的 8-bit 量化适配到位。

这个话题的历次新闻，最新的在上面。