Liquid AI、11言語対応の軽量検索モデル「LFM2.5」2種を公開

Liquid AIが公開した「LFM2.5-ColBERT-350M」と「LFM2.5-Embedding-350M」は、わずか350Mパラメータで11言語の高速検索を可能にする軽量オープンソースモデルです。一般的なノートPCやエッジデバイス上で、カタログ検索やFAQナレッジベースなどの多言語検索を低コストかつ手軽に実行できます。

何ができるのか

両モデルともに日本語、アラビア語、ドイツ語、英語、スペイン語、フランス語、イタリア語、韓国語、ノルウェー語、ポルトガル語、スウェーデン語の11言語に対応していますが、得意とする用途が分かれています。

LFM2.5-Embedding-350Mは、ドキュメント全体を単一の密ベクトルに変換する一般的なバイエンコーダ型です。インデックス容量を最小限に抑えられ、検索速度も最も高速です。大量の文書を低コストかつ省メモリでインデックス化したいケースに適しています。

LFM2.5-ColBERT-350Mは、トークンごとにベクトルを生成する後期相互作用（Late Interaction）方式を採用しています。インデックス容量は大きくなりますが、クエリと文書を単語レベルで精緻に照合できるため、高い検索精度と優れた言語間マッチング能力を発揮します。精度を最優先したい場合に最適な選択肢です。

双方向エンコーダへの改造と学習方法

従来の自己回帰型モデルは左から右へしかテキストを処理できず、前後の文脈を同時に考慮する必要がある検索タスクには不向きでした。Liquid AIは3月に公開した汎用ベースモデル「LFM2.5-350M-Base」に双方向パッチを適用してこの課題を解決しました。

因果関係マスクを双方向マスクに置き換えて各トークンが前後の文脈を参照できるようにしたほか、アーキテクチャ内の畳み込み処理も非因果型に変更し、前後の局所情報を対称的に集約できるようにしています。

学習は3段階で実施されました。まず大規模な英語データで対照事前学習を行い、次に教師モデルから11言語への多言語・言語間蒸留を実施し、最後に難易度の高い負例データ（Hard Negatives）を用いてファインチューニングを行っています。

ベンチマーク性能と動作環境

350Mという軽量サイズながら、テストスコアは大型モデルを上回っています。多言語ベンチマークNanoBEIRにおいて、ColBERT版は0.605、Embedding版は0.577の平均スコアを記録し、6億パラメータのQwen3-Embedding-0.6B（0.556）やAlibabaのgte-multilingual-base（0.528）を超えました。

クロスリンガルQAベンチマークのMKQA-11でも、両モデルはそれぞれ0.694と0.691のリコール率を達成し、評価対象の中でトップの成績を収めています。

モデル重みはHugging Faceで配布されており、llama.cppに対応したGGUF形式も提供されています。CPUやノートPC環境でも、キャッシュ利用時のクエリ処理遅延は7〜8ミリ秒程度にとどまります。GPU環境では1ミリ秒台前半で動作し、sentence-transformersを使った追加学習用のコードも用意されています。

なぜ重要か

私たちは、このモデルがエッジデバイスや小規模インフラでの多言語RAG構築における敷居を大きく下げたと考えています。これまで高精度な多言語検索を行うには、数ギガバイト規模の重量級モデルを動かすか外部クラウドAPIに依存する必要がありました。350Mという極小サイズでGGUFに対応したことで、高価なGPUを持たない環境でもローカル完結の多言語ナレッジ検索が現実的になります。

ただし、長大な学術論文などの検索よりも、商品カタログやサポートFAQといった短文検索に最適化されている点には留意が必要です。オンプレミスや端末ローカルで多言語QAシステムを安く構築したい開発者にとって、すぐに試す価値のある有力なツールと言えます。