Metaが「V-JEPA」発表、画素を生成せず動画を理解する新アーキテクチャ
Metaは非生成型の動画モデル「V-JEPA」を発表した。ピクセルそのものを予測するのではなく、抽象的な表現空間で欠損した動画情報を予測することで、訓練効率を1.5倍から6倍に改善した。基幹部分を固定したまま少量の追加学習で多様なタスクに対応できる。
Metaは非生成型の動画モデル「V-JEPA」を発表した。ピクセルそのものを予測するのではなく、抽象的な表現空間で欠損した動画情報を予測することで、訓練効率を1.5倍から6倍に改善した。基幹部分を固定したまま少量の追加学習で多様なタスクに対応できる。
Meta は視覚モデル「I-JEPA」をオープンソース公開した。画素単位ではなく抽象的な意味表現で欠損部分を予測するのが特徴で、16 基の A100 GPU で 72 時間以内に学習を完了する。ヤン・ルカン氏が提唱する世界モデル実現に向けた重要な一歩となる。