拡散モデルの推論時スケーリング研究:ノイズ探索で画像生成品質を大幅向上
拡散モデルの推論時コンピュート拡張に関する論文がarXivで公開されました。従来のノイズ除去ステップ数増加による頭打ちを回避し、検証器と探索アルゴリズムでより良いノイズ候補を見つけ出すことで、計算量に応じた画質向上を実現しています。
画像生成AIを使っている人なら、ステップ数を20から50に引き上げると描写が整う一方で、100や200まで上げても画質が頭打ちになり、GPUリソースを無駄にする感覚を味わったことがあるはずです。
大規模言語モデルが推論時計算の拡大によって性能を大きく伸ばす中、拡散モデルは従来のノイズ除去ステップの限界に直面していました。1月16日にarXivで公開された論文は、この壁を破り、推論時の計算量を別の方法で画質向上につなげるアプローチを提案しています。
ノイズ探索という新たなアプローチ
研究チームは、拡散モデルがサンプリング時の計算量をステップ数で調整できる柔軟性を持ちながらも、数十ステップを超えると性能向上がほぼ平坦化してしまう問題に着目しました。
そこで研究者たちは、従来のステップ増加とは異なり、サンプリングプロセスを「より良いノイズを見つけるための探索問題」として再構成しました。
この設計空間は、生成結果にフィードバックを与える検証器と、より優れた候補ノイズを見つけ出す探索アルゴリズムという2つの軸で体系化されています。
クラス条件付きおよびテキスト条件付きの画像生成ベンチマークによる実験の結果、この枠組みで推論時の計算量を増やすことで、生成サンプルの品質が大幅に向上することが確認されました。画像の性質に合わせて、検証器とアルゴリズムを柔軟に組み合わせられる点も特徴です。
なぜ重要か
私たちは、大規模言語モデルで成果を上げているテスト時計算の発想を、無理なく画像モデルへ落とし込んだ点が非常にスマートだと考えています。
ユーザー目線で見れば、何度もプロンプトを再実行して当たり画像を引くまで目視で選別する手間が、将来的に解消される可能性があります。モデル自身が背後で候補を探索し、最初からクオリティの高い1枚を出力できるようになるからです。
業界全体にとっても、モデルの事前学習スケール競争だけに依存しない新たな開発軸が提示された意義は小さくありません。推論時に計算リソースを投じることで、比較的小さな拡散モデルでもフラッグシップ級の画質を叩き出せる道が開かれます。
ただし、探索と検証を重ねることで1枚あたりの生成時間とサーバーコストが増加することは避けられません。生成速度と品質のトレードオフをどう調整し、実用的な製品に落とし込めるかが今後の焦点になりそうです。
情報源 (1)
- arxiv.org(新しいタブで開きます)原文arxiv.org