ByteDance、画像生成モデル「BitDance」をオープンソース公開　生成速度を30倍以上に高速化

BitDanceは、ByteDanceがオープンソースで公開した自己回帰型（AR）画像生成モデルです。最大の特徴は、従来の弱点を覆す圧倒的な生成スピードにあります。

1024x1024の高解像度画像を生成する際、従来のARモデルと比較して30倍以上の高速化を達成しています。

テキスト生成AIと同じ仕組みを持つAR型画像モデルは、表現力や一貫性に優れる一方で、画像を構成するトークンを1つずつ順番に生成するため、出力が非常に遅いという構造的な問題を抱えていました。BitDanceはこの課題を技術的に解消しています。

高速化を実現した仕組み

従来のARモデルは離散的なコードブックを用いて画像を表現していましたが、トークン数を増やすと計算負荷が跳ね上がる問題がありました。

BitDanceは、画像を極めてコンパクトなバイナリビジュアルトークンに変換する手法を採用しました。高エントロピーなバイナリ潜在空間により、各トークンが最大で2の256乗通りの状態を表現でき、圧縮効率と画質を高いレベルで両立しています。

これほど膨大な状態空間からのサンプリングは通常のSoftmax分類では不可能なため、BitDanceはバイナリ拡散ヘッドを導入し、連続空間での拡散プロセスを通じてトークンを生成します。

さらに、次パッチ拡散（next-patch diffusion）デコード方式を組み合わせることで、1回の拡散ステップで64個のトークンを並列予測することに成功しました。

性能テストとモデル仕様

この設計により、ImageNet 256x256ベンチマークにおいて、ARモデルとして最高水準となる1.24 FIDを記録しました。

わずか2億6000万（260M）パラメータのBitDanceが、14億（1.4B）パラメータを持つ競合の並列ARモデルを画質で上回り、推論速度も8.7倍高速に動作しています。

小規模モデルだけでなく、140億（14B）パラメータ規模の大規模構成でも高速性が維持され、高解像度のリアルな画像を素早く生成できます。コードと学習済みモデルの重みはすでに公開されています。

なぜ重要か

AR型と拡散型の長所を巧みに融合させた点において、技術的に非常に完成度の高いプロジェクトだと考えられます。これまで画像生成の実用領域は拡散モデルの独壇場でしたが、BitDanceはARモデルでも実用的なレイテンシで高画質生成が可能であることを証明しました。マルチモーダル統合基盤モデルの構築を目指す開発者や研究者にとって、今すぐ検証する価値のあるオープンソース資産です。