本文へスキップ
IFAI

オープンソース

JEPA-Anything:異なる領域の予測モデルを統一するオープンソース基盤

公開 拡散指数 48

オープンソースフレームワーク「JEPA-Anything」が公開された。JEPAを基盤に「直交予測分解」を採用し、複雑な潜在状態を独立した要素に分解して別々に予測・再統合する。各分野固有のインターフェースを保ちつつ共通の予測コアを活用できる。現在は設計ツールと合成データ例が提供されており、学習済み重みは含まれない。

JEPA-Anything:異なる領域の予測モデルを統一するオープンソース基盤
画像:github.com

JEPA-Anythingは、細胞動態、分子運動、医療データ、物理現象など、異なる領域の予測モデルを統一的な設計思想で構築できるオープンソースフレームワークです。

対象が生物でも制御環境でも、本質的な課題は「現在の文脈から未知の将来状態を推論する」という点にあります。JEPA-Anythingは、この世界モデルの構築ロジックを汎用化することを目指しています。

仕組みと特徴

従来の自己教師あり学習やJEPA基盤のモデルは、予測対象の潜在表現をひとまとめの塊として一度に推測しようとする傾向がありました。しかし、変数が入り乱れる現実世界のデータでは精度が安定しません。

そこでJEPA-Anythingが導入したのが「直交予測分解(OPF)」です。エンコーダーが観測データを潜在状態に変換した後、互いに直交する相補的な要素群へと分解します。それぞれの要素が専用の経路で予測計算を行い、下流の用途に合わせて再び統合されます。

統合された状態は、複数ステップの長期展開、介入効果の予測、意思決定計画などに利用可能です。領域ごとに異なる観測形式やエンコーダーを保持したまま、中心となる予測コアとインターフェースだけを共有できます。

動作環境と注意点

ソースコードはGitHub上のGen-Verse/JEPA-Anythingで公開されています。動作環境にはPython 3.10以上が必要で、コアライブラリはPyTorch上で動作します。タスク設計ツールと検証スクリプトはPython標準ライブラリだけで動く構成です。

リポジトリをクローンして依存関係をインストールすれば、合成線形ダイナミクスを用いた動作検証スクリプトをすぐに実行できます。また、JSON形式の設計ファイルからモデルの雛形やテストコードを自動生成するスキャフォールド機能も備えています。

注意点として、現在公開されているのは再利用可能なコアコードと合成データによる検証例のみです。論文やアトラスに描かれている単細胞データや臨床データの学習済み重みは同梱されていないため、実問題への適用には各自のデータによる学習が前提となります。

なぜ重要か

ひとつの巨大モデルですべての分野を強引にカバーするのではなく、予測の共通インターフェースだけを切り分けた設計は非常に現実的だと感じます。

AI for Scienceや世界モデルの研究開発に取り組むエンジニアにとって、潜在状態の分解設計をゼロから実装する手間を省ける優れた基盤になります。学習済みモデルが配布されていないためすぐに結果が出るツールではありませんが、自前の科学データを抱える研究チームには試す価値の高いフレームワークです。

情報源 (1)

  1. [1]

毎日のAIピックアップ