Google、端末向け埋め込みモデル「EmbeddingGemma」公開：完全オフラインで RAG や検索が可能に

EmbeddingGemma は、Google が公開した端末動作向けのオープンな埋め込みモデルです。パラメータ数はわずか 3 億 800 万で、ネット接続のない環境でも端末上で直接セマンティック検索や RAG（検索拡張生成）を実行できるように作られています。手元のメモやメールなどの機密データを外部サーバーに送る必要はありません。

ローカル環境で知識ベースを作る際、最初の検索ステップで関連文書を正しく拾えなければ、どんな高性能な生成モデルをつないでも的外れな回答になります。EmbeddingGemma はテキストの意味を捉えてベクトル化し、端末内で高精度な類似度計算を完結させます。

Gemma 3 をエンコーダーへ作り変える工夫

EmbeddingGemma は、Gemma 3 のトランスフォーマー構造をベースにしています。

ただし、通常の生成モデルが使う単方向のアテンションではなく、双方向アテンションを採用しました。これによってデコーダーからエンコーダー構造へと作り替えられており、前後の文脈を同時に参照できるため、テキスト検索タスクにおいて高い性能を発揮します。

3 億 800 万のパラメータ構成は、約 1 億のモデルパラメータと約 2 億の埋め込みパラメータから成り立っています。平均プーリング層と全結合層を経て、最終的に 768 次元のベクトルが出力されます。

マトリョーシカ表現学習（MRL）に対応している点も実用的です。端末のメモリやストレージを節約したい場合、出力ベクトルを必要に応じて 512、256、128 次元に切り詰めて使うことができ、計算負荷をさらに抑えられます。

さらに、Google の小型生成モデル Gemma 3n と同じトークナイザーを共有しています。端末上で検索から生成までの一連の RAG パイプラインを組む際、トークナイザーを二重にメモリへ読み込む無駄を省けます。

動作スペックとベンチマーク

端末向けモデルとして、動作環境のハードルは極めて低く抑えられています。量子化を行えば、消費メモリは 200 MB 未満に収まり、一般的なスマートフォンや薄型ノート PC でも余裕で動作します。

コンテキストウィンドウは 2048 トークンです。クラウドの大規模モデルと比べるとコンパクトですが、文書を分割して検索するチャンク処理には十分な長さであり、テキストが長すぎて意味情報が薄まる問題も防げます。

学習には 100 以上の言語をカバーする約 3200 億トークンの多言語コーパスが使われました。大規模テキスト埋め込みベンチマーク（MTEB / MMTEB）において、5 億パラメータ以下のテキスト専用モデルとして最高水準のスコアを記録しています。医療データセットを使った微調実験では、2 倍のサイズを持つモデルを上回る検索精度を示しました。

モデルはすでに Hugging Face で公開されており、Sentence Transformers や LangChain、LlamaIndex、Transformers.js、ONNX など主要なツールから利用可能です。Google は今後、Android などの自社プラットフォームにもこの技術を導入する予定です。

なぜ重要か

完全オフラインで動くノート検索やプライバシー重視のモバイルアプリを開発しているなら、EmbeddingGemma は真っ先に試すべき選択肢です。わずか 200 MB 未満のメモリで、100 言語対応の本格的なベクトル検索を端末内に組み込めるメリットは小さくありません。

クラウド側で巨大モデルの競争が続く中、端末側 AI の実用化において最大のボトルネックだったのは、軽量で賢い埋め込みモデルの不足でした。Gemma 3n と組み合わせることで、スマホ完結の RAG アプリがいよいよ現実的な水準に達したと評価できます。