開源模型 CLM-8B：System 1 快決策，延遲比 Jev 低 9 倍

CLM-8B 是一個基於對比學習的開源決策模型，專門負責像人類直覺一樣的「System 1」快速判斷。它不走大語言模型那種慢吞吞的自迴歸生成邏輯，而是把當前環境狀態與候選動作直接做匹配，用來做工具呼叫路由、電腦操作決策以及程式碼方案驗證。

在很多即時場景裡，比如讓 AI 玩小恐龍快跑（Dino Run）或點選介面，模型其實不需要寫幾百字的深度推理鏈，只要立刻選出當前該跳躍還是該下蹲。前段時間業內推出了主打快速決策的 Jev 模型，而 CLM-8B 不僅效能與之相當，在候選動作較多或動作可複用的任務中，推理延遲最高能比 Jev 低 9 倍。

它是怎麼做到的

CLM 的核心機制是把狀態與動作完全解耦。傳統生成式模型每評估一個動作，都得把上下文和候選內容拼在一起重新計算注意力；CLM 則為狀態和動作分別訓練編碼器，兩者算出的向量能夠獨立快取。

在具體架構上，CLM-8B 以凍結的開源模型 Qwen3-8B 作為底座編碼器，上面只掛載了 2000 萬引數的可訓練投影頭。推理時，新的輸入文本只需要做一次嵌入計算，而候選動作選項如果是預設好的，只需做一次點積打分。它的權重頭部檔案非常小，初次執行下載的參考頭部僅有 75 MB。

訓練過程分成了三個階段。首先在約 6000 萬條 Nemotron 問答對上進行雙向 InfoNCE 對比預訓練，建立通用的語義表徵；接著引入由 Gemini 2.5 Flash-Lite 生成的約 3000 萬條合成高難負樣本做中期訓練，拉開相似選項的辨別度；最後在約 100 萬條智慧體軌跡資料（涵蓋 ADP、Endless-Terminals 等）上進行後訓練。團隊發現，如果在後訓練中保留 40% 的問答資料回放，能有效防止模型遺忘基礎辨別能力。

效能表現與硬體門檻

在長流程智慧體程式設計的方案驗證評測中，CLM-8B 表現突出。對於生成好的候選解答，CLM-8B 充當挑選最佳方案的驗證器（verifier）。在 38 項 DeepSWE 保留任務上，經輕量微調的 CLM 達到 81.6% 的準確率；在 30 項 Terminal-Bench 2.1 任務上則拿到 87.6%，創下新記錄，同時執行速度比 Jev 快 4.1 到 5.7 倍。

硬體要求方面，部署 CLM-8B 需要一張能夠執行 Qwen3-8B 嵌入服務的顯示卡。官方測試在一張單卡 RTX 4090 上即可跑通完整的本地服務；如果遇到超長文本，則可以通過調大 vLLM 的上下文長度來支援，但需要更多視訊記憶體。

整個專案遵循 Apache 2.0 協議開源，包括完整程式碼、訓練指令碼以及釋出在 Hugging Face 上的 CLM-8B 權重。想要本地體驗的開發者，可以通過 pip 安裝 contrastive-lm 庫，啟動本地服務後，可以直接在自帶的 Web 介面裡輸入狀態和候選動作檢視機率分佈，也可以通過類似 TypeSafe 的 Python API 將其接入已有的 Agent 流程中。

為什麼重要

如果你在開發自主智慧體或工具呼叫工作流，CLM-8B 非常值得嘗試。很多智慧體系統響應慢、Token 賬單高，不是因為大模型腦子不夠用，而是把寶貴的慢思考資源浪費在分類、路由和挑選項這種瑣事上。把這些直覺性動作剝離給 CLM-8B，能大幅砍掉互動延遲和計算成本。

從架構上看，我們認為這種「大模型凍結底座 + 輕量對比頭」的思路相當聰明。它避開了昂貴的端到端全量微調，讓快速決策可以低成本定製到具體業務場景裡。當然，這種純 System 1 模式完全依賴匹配機率，無法勝任多步邏輯推演；但把它作為複雜推理模型的外圍分流器和輸出驗證器，看起來是目前 Agent 落地最務實的方向之一。