Meta、抽象表現を学習する画像AI「I-JEPA」をオープンソース公開

I-JEPA は、Meta がオープンソースとして公開したコンピュータビジョンモデルだ。画素を 1 つずつ復元するのではなく、人間のように抽象的な意味表現を用いて、画像の隠された部分を予測して理解する。

Meta の研究部門である FAIR、マギル大学、Mila、ケベックAI研究所、ニューヨーク大学の共同チームが開発し、チューリング賞受賞者のヤン・ルカン氏も名を連ねている。モデルの重みとコードは GitHub 上で公開されている。

仕組みと特徴

従来の自己教師あり学習モデルは、欠損した画素そのものを正確に再構成しようとするため、膨大な計算リソースを消費する上に背景のノイズに惑わされやすかった。

I-JEPA は Joint Embedding Predictive Architecture（JEPA）と呼ばれる設計思想を採用している。画像内の大きな領域をマスクで隠し、残りの可視領域から隠された部分の内容を予測させる。

処理には Vision Transformer をベースとした 3 つの要素が使われる。可視部分を読み取るコンテキストエンコーダ、予測器、そして画像全体から教師信号を取り出すターゲットエンコーダだ。

ターゲットエンコーダが不要なピクセルノイズを取り除き、高次元の抽象表現へと変換するフィルターとして機能する。予測器はその抽象表現同士を突き合わせて学習するため、細かい画素値ではなく物体の意味や構造そのものを把握できる。

必要なスペックと検証結果

公開されたモデルのパラメータ数は 6 億 3200 万だ。画素の再構成を省いたことで、学習効率は飛躍的に高まっている。

学習にかかった環境はわずか 16 基の Nvidia A100 GPU で、72 時間足らずで完了した。同規模のデータを扱う他の一般的なビジョンモデルと比べて 2 倍から 10 倍も計算時間を削減しつつ、より低いエラー率を達成している。

学習済みの表現力は極めて汎用性が高く、ImageNet ベンチマークでは 1 クラスあたりわずか 12 個のラベル付きデータを与えるだけで高精度な分類を実現した。線形分類にとどまらず、物体のカウントや深度推定といったタスクでも優れた数値を記録している。

モデルや評価コードは Meta の公式 GitHub リポジトリから誰でも取得可能だ。

なぜ重要か

計算資源の制約に悩む画像認識系のエンジニアにとって、学習時間を数分の一に抑えながら高精度な特徴表現が得られる I-JEPA は、極めて魅力的な基盤モデルになる。

業界全体から見れば、生成 AI の幻覚や手足の描写崩れといった問題に対する、ルカン氏流の回答と言える。単にピクセルを模倣するのではなく、抽象空間で物理法則や概念を理解するこのアプローチは、将来の自律型エージェントや世界モデルへの確かな足がかりになるはずだ。