本文へスキップ
IFAI

AIツール

NVIDIA、画像編集モデル「FLUX.1 Kontext」のNIMマイクロサービスを公開

公開 拡散指数 38

NVIDIAはFLUX.1 Kontext [dev]のNIMマイクロサービスを公開した。量子化によりモデルサイズを最大7GBまで削減し、TensorRTで推論速度を2倍以上に向上。ComfyUIから手軽に呼び出せる。

画像:blogs.nvidia.com

ローカル環境で最先端のオープンウェイト画像モデルを動かそうとすると、GPUのVRAM不足と複雑な環境構築という二重の壁に直面しがちです。

モデルの形式変換や量子化設定、推論バックエンドの接続といった作業は、専門知識がないユーザーにとって大きな負担でした。こうした課題を解消するため、NVIDIAとBlack Forest Labsが連携しました。

Black Forest Labsの画像編集モデルであるFLUX.1 Kontext [dev]が、RTX AI PC向けに最適化されたNVIDIA NIMマイクロサービスとして提供開始されました。

24GBから7GBへ、TensorRTによる高速化

FLUX.1 Kontext [dev]は、自然言語と画像の入力に対応した画像編集モデルです。複雑な追加学習や込み入った設定を行わなくても、日常的な言葉で指示するだけで、画像のディテール修正から構図全体の大幅な変更まで直感的に反映できます。

今回の目玉は、NVIDIAとの協業による大幅な軽量化と最適化です。オリジナルのBF16モデルは容量が24GBあり、一般的なグラフィックボードで扱うにはハードルが高いサイズでした。

そこでNVIDIAは世代ごとのハードウェアに合わせた量子化を実施しました。GeForce RTX 40シリーズなどのAda世代GPU向けにはFP8版を用意し、Tensorコアのアクセラレータを活用して容量を12GBに半減させました。

さらにGeForce RTX 50シリーズをはじめとするBlackwell世代GPU向けには、画質を保ったまま圧縮するSVDQuant手法を適用したFP4版を提供し、わずか7GBまで削減しています。

さらにNVIDIA TensorRTフレームワークを活用することで、PyTorch上で元のBF16モデルを実行する場合と比較して、推論速度は2倍以上向上しました。これらの高速化ファイルはComfyUIのNIMノード経由でワンクリックダウンロードできるようパッケージ化されています。

導入手順も整理されており、NVIDIA AI WorkbenchとComfyUIを準備した上で、ComfyUI ManagerからNIMノードを追加し、Hugging Faceでライセンスに同意すれば、あとは実行ボタンを押すだけで必要なモデルの取得とワークフローの準備が完了します。

なぜ重要か

クリエイターや個人開発者にとって、最先端の画像編集モデルをローカルで手軽に動かせる恩恵は絶大です。従来は高価なワークステーションやクラウドサービスに頼らざるを得なかった処理が、手元の一般的なRTXグラフィックボードで完結するようになります。

今回のNVIDIAの戦略は非常に巧みだと考えられます。単にハードウェア性能をアピールするだけでなく、TensorRTのような高度な最適化をNIMマイクロサービスとしてComfyUIのエコシステムに直接組み込みました。これにより、技術的な敷居を大きく下げながら自社製GPUの付加価値を高めています。

業界全体から見ても、ローカル生成AIにおけるNVIDIAの支配力はさらに強まりそうです。競合他社がセットアップの手間やライブラリの非互換性に直面するなか、プラグアンドプレイに近い体験を提供されると、ユーザーが他社製GPUへ移行する動機は薄れます。

ただし、最大の恩恵であるFP4量子化の性能を享受するためにはBlackwell世代のハードウェアが必要になるなど、世代ごとの機能差が買い替え圧力を生む側面があることも留意すべき点です。

情報源 (1)

  1. [1]
    blogs.nvidia.com(新しいタブで開きます)原文blogs.nvidia.com

毎日のAIピックアップ