Stability AIがNVIDIA TensorRTでSDXLを高速化、H100で生成が1.47秒に

高品質な画像を生成できる反面、マシンスペックと生成時間が大きな課題だった Stable Diffusion XL に、強力なテコ入れが入りました。

Stability AI は 8 月 23 日、NVIDIA との協業により、推論最適化フレームワーク TensorRT を SDXL に統合したと発表しました。グローバル向けに変換済みの ONNX 重みデータも公開されています。

この最適化により、NVIDIA の最上位アクセラレータ H100 において、高解像度画像の生成速度が 2 倍に向上し、わずか 1.47 秒で画像が出力できるようになりました。

ハイエンド環境ほど際立つアクセラレーション効果

TensorRT は、NVIDIA 製 GPU の性能を極限まで引き出すためにレイヤーの融合やカーネル最適化を行う推論エンジンです。

発表されたベンチマークでは、従来の未最適化ベースラインと比較して、レイテンシとスループットの両面で顕著な改善が示されています。

生成の遅延時間を示すレイテンシは、A10 で 13%、A100 で 26%、H100 では 41% 短縮されました。

時間あたりの処理量を示すスループットに至っては、A10 で 20%、A100 で 33%、H100 では 70% も向上しています。

さらに Stability AI は、今後 8 ビット精度による量子化など、より高速化と軽量化を進める最適化も準備していると明かしました。

なぜ重要か

画像生成 AI を自社サービスに組み込んでいる開発者や事業者にとって、このアップデートはインフラコストの直結する削減を意味します。

生成時間が 1.5 秒を切り、スループットが 7 割増えれば、同じ GPU クラウド契約のままで約 2 倍のリクエストをさばけるようになります。

画像生成分野では Midjourney などのクローズドなサービスが先行していますが、オープンソースの SDXL が実用に耐えうる超高速な応答性を手に入れたことで、商用アプリの基盤として選ばれる可能性が一段と高まりました。

独自に推論エンジンを作り直すのではなく、NVIDIA の純正エコシステムをフル活用して課題をクリアした点は非常に合理的だと考えられます。

ただし、この恩恵は基本的に NVIDIA 環境に限定されるため、企業向けクラウド基盤における NVIDIA 依存がさらに強まるという側面も無視できません。