NVIDIA、画像生成「FLUX.1 Kontext」をTensorRTで高速化
NVIDIAはBlack Forest Labsの画像生成・編集モデル「FLUX.1 Kontext [dev]」向けにTensorRT最適化を提供すると発表した。FP8で12GB、FP4で7GBに量子化され、推論速度は2倍以上に向上。ローカルのRTX環境で快適に対話型画像編集を行える。
NVIDIAはBlack Forest Labsの画像生成・編集モデル「FLUX.1 Kontext [dev]」向けにTensorRT最適化を提供すると発表した。FP8で12GB、FP4で7GBに量子化され、推論速度は2倍以上に向上。ローカルのRTX環境で快適に対話型画像編集を行える。
Black Forest Labsはテキストと画像プロンプトを組み合わせて編集できる「FLUX.1 Kontext」を発表した。追加学習なしでキャラクターの一貫性保持や局所編集が可能で、12Bパラメータのオープンウェイト版「dev」も提供される。