本文へスキップ
IFAI

オープンソース

SenseNovaがU1.5-8Bをオープンソース化:VAE不要、画素空間で直接4K生成

公開 拡散指数 48

SenseNovaがマルチモーダルモデル「SenseNova-U1.5-8B-MoT」をApache 2.0で公開しました。従来の潜在空間やVAEによるデコードを省き、画素空間から直接ネイティブ4K画像をエンドツーエンドで生成できるほか、自然言語での画像編集にも対応します。ただし重みは約50GBあり、ローカル実行には高性能GPUが必須です。

SenseNovaがU1.5-8Bをオープンソース化:VAE不要、画素空間で直接4K生成
画像:huggingface.co

SenseNovaがオープンソース公開した「SenseNova-U1.5-8B-MoT」は、ネイティブ4K画像の生成から自然言語による細かな画像編集までを1つでこなす統一マルチモーダルモデルです。

最大の特徴は、従来の画像生成モデルが依存してきた潜在空間とVAE(変分自己符号化器)を完全に排除した点にあります。

VAEを省き、画素空間で直接4Kを描く

現在の主要な画像生成AIの多くは、画像を一度低次元の潜在空間(Latent Space)に圧縮して計算し、最後にVAEデコーダーで元のピクセル画像へと復元する仕組みをとっています。計算効率は高いものの、デコード時に微細なディテールが失われたり文字が崩れたりする原因にもなっていました。

SenseNova-U1.5-8B-MoTは「NEO-unify」アーキテクチャをベースに採用し、直接画素空間(Pixel Space)においてエンドツーエンドで画像を生成します。外部のエンコーダーやデコーダーを挟むことなく、安定してネイティブ4K解像度を出力できるのが強みです。

画質面では、写真のような質感表現や光の階調に加え、ポスターやインフォグラフィックのような文字密度の高いデザインで高い可読性を発揮します。中英バイリンガルのテキスト配置にも強みを持っています。

さらに自然言語によるネイティブ画像編集にも対応しています。チャット形式でジャケットの色だけを変えたり、看板の文字を書き換えたり、不要な要素を消去したりできるほか、バウンディングボックスなどの視覚的マークや複数枚の参照画像を用いた指示にも追従します。

動作環境と注意点

本モデルは商用利用もしやすいApache 2.0ライセンスで提供されており、コードはGitHubのOpenSenseNova/SenseNova-U1リポジトリ、重みはHugging Face上で公開されています。

公式環境はPython 3.11、PyTorch 2.8、CUDA 12.8で、uv syncを使って依存関係をセットアップできます。FlashAttentionの併用も可能です。

ただし、ローカル環境での実行ハードルは高めです。モデル全体の重み容量は約50GBに達するため、動かすには大容量VRAMを積んだハイエンドGPUが不可欠となります。将来的に量子化版や圧縮版の提供も検討されているとのことです。

また、プロンプトによっては高周波成分が過剰に出て彩度が高くなりすぎることや、小さな文字・手足などの細部構造の乱れ、広範囲の編集時に元画像とのズレが生じるといった課題も公式からアナウンスされています。

なぜ重要か

ポスター制作やグラフィックデザインを手がけるクリエイターや、マルチモーダルモデルを自前で研究・構築したい開発者にとって、試す価値が十分にあるツールです。テキスト編集と画像生成がひとつのモデル内で完結するため、複数のツールを行き来する手間を減らせます。

業界的にも、VAEを介さずに画素空間だけで4K生成を実用化した技術的意義は小さくありません。現状は約50GBのサイズが一般ユーザーの参入障壁になっていますが、今後コミュニティ主導で軽量化や量子化が進めば、オープンソース生成AIの有力な選択肢になりそうです。

情報源 (2)

  1. [1]
  2. [2]

毎日のAIピックアップ