「CLM-8B」公開：System 1型の高速判断でJev比最大9倍低遅延

CLM-8Bは、直感的な即時判断（System 1 Thinking）に特化したオープンソースの意思決定モデルだ。大規模言語モデルのようにトークンを1つずつ逐次生成するのではなく、対照学習（Contrastive Learning）を用いて現在の環境状態と候補アクションを直接結びつける。ツールのルーティング、コンピューター操作、エージェントの出力検証などに活用できる。

AIにブラウザの恐竜ゲーム（Dino Run）をプレイさせたり、UIをクリックさせたりする場合、長時間の深い推論は不要で、跳ぶか屈むかを即座に判断できれば十分だ。先行して登場したSystem 1型モデル「Jev」に対し、CLM-8Bは同等のタスク性能を保ちながら、最大9分の1という大幅な低遅延化を実現している。

仕組みと特徴

CLMの最大の特徴は、状態（State）と行動（Action）の処理を完全に切り離した点にある。通常モデルのように文脈全体を毎回結合して再計算するのではなく、状態と行動のエンコーダーを分離し、埋め込み表現を独立してキャッシュできるようにした。

モデル構成としては、フリーズしたQwen3-8Bをバックボーンに採用し、その上にわずか2000万パラメータの学習可能な射影ヘッドを載せている。初回起動時にダウンロードされるヘッドのサイズは約75MBに過ぎず、推論時はキャッシュされた候補ベクトルとの内積計算だけで高速にスコアを算出できる。

学習は3段階で行われた。まず約6000万件のNemotron Q&Aデータセットによる双方向InfoNCE対照学習で基礎的な意味表現を構築。続いてGemini 2.5 Flash-Liteで生成した約3000万件の合成ハードネガティブを用いて識別精度を高め、最後にADPなどから収集した約100万件のエージェント実行軌跡データで事後学習を実施した。事後学習時に過去のQ&Aデータを40%混ぜるリプレイ手法により、基礎的な分類性能の低下を防いでいる。

性能と動作環境

CLM-8Bは、エージェントが生成した複数のコード解答から最適なものを1つ選ぶ「検証器（verifier）」としても優れたスコアを出している。軽量なファインチューニングを施すことで、DeepSWEの38評価タスクで81.6%、Terminal-Bench 2.1の30タスクで87.6%を記録し、Jev比で4.1〜5.7倍高速でありながらSOTAを更新した。

動作にはQwen3-8BのプーリングサーバーをホストできるGPUが必要だが、公式デモは1枚のGeForce RTX 4090上で快適に動作する。より長いコンテキストを扱う場合は、GPUメモリの許す範囲でトークン制限を拡大して対応可能だ。

プロジェクト全体がApache 2.0ライセンスで完全公開されており、コード、学習スクリプト、重みデータがGitHubおよびHugging Faceから入手できる。pipでライブラリを導入し、内蔵のWeb UIでテストしたり、Python APIから既存のエージェント処理に組み込んだりできる。

なぜ重要か

自律型エージェントやツール呼び出しパイプラインを開発しているなら、今すぐ試す価値がある。現状のエージェントが遅くコストがかさむ主な要因は、単なる分岐選択や検証作業にまで高コストな生成推論モデルを使っていることにある。直感的な判断をCLM-8Bに切り出すだけで、システム全体の応答性を劇的に改善できるはずだ。

フリーズした8Bモデルに20Mの軽量ヘッドを組み合わせる設計は、実用性の面で非常にクレバーだと感じる。高度な戦略設計を行うSystem 2推論の代替にはならないが、高速なルーターやガードレール役として、エージェントの実装コストを大きく引き下げる一手になるだろう。