Stability AIとNVIDIAがSD3.5 NIMを提供開始、画像生成が1.8倍高速に
Stability AIとNVIDIAは、企業向け推論マイクロサービス「Stable Diffusion 3.5 NIM」の提供を開始した。TensorRTによる最適化でH100環境での生成速度がPyTorch比1.8倍に向上し、SD3.5 LargeとControlNetを単一コンテナに統合している。
Stability AIとNVIDIAは、企業向け推論マイクロサービス「Stable Diffusion 3.5 NIM」の提供を開始した。TensorRTによる最適化でH100環境での生成速度がPyTorch比1.8倍に向上し、SD3.5 LargeとControlNetを単一コンテナに統合している。
NVIDIAはStability AIと連携し「Stable Diffusion 3.5」をTensorRTで最適化したと発表した。FP8量子化によりSD3.5 LargeのVRAM消費を18GB超から11GBへ40%削減し、生成速度を最大2.3倍に高速化。一般的なRTX搭載PCでの動作が格段に容易になる。
Stability AIはAMDと提携し、AMD Radeon GPUおよびRyzen AI APU向けに最適化したONNX版Stable Diffusionをリリースした。SD 3.5とSDXLの計4モデルが対象で、PyTorch版と比較して最大3.8倍高速に動作する。モデルはHugging Faceで公開され、Amuse 3.0でも利用可能。
AMDが画像生成ソフト「Amuse 2.2 Beta」を公開した。Stable Diffusion 3.5ファミリーに対応し、Ryzen AI 300やRadeon 7000向けに最適化。XDNA超解像技術により、オフラインのノートPCでも最大2048×2048ピクセルの高品質画像を簡単に生成できる。