Liquid AI、エッジ向け意思決定モデル「d1-3B」をオープンソース公開

Liquid AIは、判定や分類タスクに特化した31億パラメータのマルチモーダル意思決定モデル「d1-3B」をオープンソースで公開した。同社の「LFM2.5-VL-3B」をベースに追加学習されたモデルだ。

このモデルは対話型テキストを生成しない。テキスト、JSON、画像などで構成される入力状態と質問を渡すと、単一のフォワードパスのみで構造化された確率付きの判定結果を返し、出力トークン数はゼロで完結する。

できること

d1-3Bは、問い合わせチケットの自動ルーティング、コンテンツモデレーション、意図分類、Agentの安全ガードレール、LLM-as-a-judge評価、外観検査といったパイプラインへの組み込みに適している。

質問形式はDecision Indexスキーマに準拠しており、はい・いいえの2値判定、選択肢からの単一分類、2段階から10段階までの順序付きスコアリングに対応する。判定結果は信頼度や各選択肢の確率分布とともに出力されるため、出力テキストを正規表現などでパースする手間がない。

ベンチマークの「Decision Index 0.2.1」において、d1-3Bは48.57スコアを記録した。これは10B未満のモデルの中で首位となり、36B規模のDecider 35B-A3Bをも上回る。11種類の公開画像評価ベンチマークの平均スコアも74.1に達し、ベースとなった視覚言語モデルの認識能力を維持している。

動作速度とハードウェア要件

トークンを逐次生成する自己回帰デコードを排除したことで、エッジ端末やコンシューマ向けGPUでも圧倒的な低遅延を実現している。

NVIDIA RTX 4090ではコンパイル最適化により単一質問を8ミリ秒で処理し、AMD MI325Xでは9ミリ秒、Apple M5 Proでは30ミリ秒で完了する。

エッジ端末での性能も高く、NVIDIA Jetson AGX Thorで16ミリ秒、Jetson AGX Orinで26ミリ秒、エントリー向けのエッジ基板であるJetson Orin Nanoでも50ミリ秒で判定を完了できる。

総パラメータ数は31.2億で、コンテキスト長は32768トークン、ビジョンエンコーダには400MパラメータのSigLIP2 NaFlexを採用している。動作にはtransformers 5.14以降が必要で、vLLMやSGLangによるAPI提供やDockerに対応する。Hugging Faceのモデルページには10種類のデモを試せるスペースも用意されている。

なぜ重要か

Agentのルーティングやガードレール、エッジでの画像検査を構築している開発者にとって、d1-3Bは今すぐ検証する価値がある。これまで「はい・いいえ」の判定や分類を行うために巨大な対話モデルを呼び出し、数秒かけてテキストを出力させていた処理を、わずか数十ミリ秒の単一パス計算に置き換えることができる。

文章生成と意思決定を完全に切り離すアプローチは非常に合理的だ。ロボットやスマート機器の最前線で動かすモデルとして、重いチャットAIではなく、こうした高速で軽量な判断特化型モデルが主流になっていくと考えられる。