アントが4B特化型意思決定モデル「LemonDecider」を公開、推論中央値50.7ms

LemonDeciderは、Qwen3.5-4Bをベースにアントが開発した4Bパラメータの意思決定特化型モデルです。テキストを生成してから結論を抽出するのではなく、構造化された判断を直接出力します。

できることと仕組み

出力形式は3種類用意されています。ツールやワークフローを選択する「Choice」、条件適合や証拠の十分性を二値判定する「Yes/No」、検索関連性や品質を評価する「Score」です。

同一コンテキストに対する複数判定のまとめ処理にも対応しています。コンテキストの長さが許す範囲であれば、1度のフォワードパスで複数の意思決定を同時に処理できるため、同じ背景情報を何度も読み込ませるオーバーヘッドを削減できます。

Decision Index 0.4.1 Publicベンチマークにおいて、LemonDecider 4Bは61.67点を記録し、Jev 1.14の60.70点を上回りました。約14万件のテストリクエストにおける推論中央値は50.7msです。アントは学習コードに加え、意図認識やツールルーティングなど864のタスクラベルを含む120万件の学習サンプルも併せて公開しました。

なぜ重要か

AIエージェントの構築で、ツールの振り分けやフィルタリングのためだけに巨大なモデルを呼んでいるなら、このモデルは低遅延なルーターとして役立ちます。4Bサイズかつ約50msの推論速度は、コストと待機時間を削るのに適しています。

重みだけでなく、意思決定に特化した120万件の学習データとパイプラインがまるごと手に入る点も実用的です。自社環境で軽量なルーティングモデルをファインチューニングしたい開発者にとって、有用な資産になるはずです。