开源模型 CLM-8B：System 1 快决策，延迟比 Jev 低 9 倍

CLM-8B 是一个基于对比学习的开源决策模型，专门负责像人类直觉一样的「System 1」快速判断。它不走大语言模型那种慢吞吞的自回归生成逻辑，而是把当前环境状态与候选动作直接做匹配，用来做工具调用路由、电脑操作决策以及代码方案验证。

在很多实时场景里，比如让 AI 玩小恐龙快跑（Dino Run）或点击界面，模型其实不需要写几百字的深度推理链，只要立刻选出当前该跳跃还是该下蹲。前段时间业内推出了主打快速决策的 Jev 模型，而 CLM-8B 不仅性能与之相当，在候选动作较多或动作可复用的任务中，推理延迟最高能比 Jev 低 9 倍。

它是怎么做到的

CLM 的核心机制是把状态与动作完全解耦。传统生成式模型每评估一个动作，都得把上下文和候选内容拼在一起重新计算注意力；CLM 则为状态和动作分别训练编码器，两者算出的向量能够独立缓存。

在具体架构上，CLM-8B 以冻结的开源模型 Qwen3-8B 作为底座编码器，上面只挂载了 2000 万参数的可训练投影头。推理时，新的输入文本只需要做一次嵌入计算，而候选动作选项如果是预设好的，只需做一次点积打分。它的权重头部文件非常小，初次运行下载的参考头部仅有 75 MB。

训练过程分成了三个阶段。首先在约 6000 万条 Nemotron 问答对上进行双向 InfoNCE 对比预训练，建立通用的语义表征；接着引入由 Gemini 2.5 Flash-Lite 生成的约 3000 万条合成高难负样本做中期训练，拉开相似选项的辨别度；最后在约 100 万条智能体轨迹数据（涵盖 ADP、Endless-Terminals 等）上进行后训练。团队发现，如果在后训练中保留 40% 的问答数据回放，能有效防止模型遗忘基础辨别能力。

性能表现与硬件门槛

在长流程智能体编程的方案验证评测中，CLM-8B 表现突出。对于生成好的候选解答，CLM-8B 充当挑选最佳方案的验证器（verifier）。在 38 项 DeepSWE 保留任务上，经轻量微调的 CLM 达到 81.6% 的准确率；在 30 项 Terminal-Bench 2.1 任务上则拿到 87.6%，创下新记录，同时运行速度比 Jev 快 4.1 到 5.7 倍。

硬件要求方面，部署 CLM-8B 需要一张能够运行 Qwen3-8B 嵌入服务的显卡。官方测试在一张单卡 RTX 4090 上即可跑通完整的本地服务；如果遇到超长文本，则可以通过调大 vLLM 的上下文长度来支持，但需要更多显存。

整个项目遵循 Apache 2.0 协议开源，包括完整代码、训练脚本以及发布在 Hugging Face 上的 CLM-8B 权重。想要本地体验的开发者，可以通过 pip 安装 contrastive-lm 库，启动本地服务后，可以直接在自带的 Web 界面里输入状态和候选动作查看概率分布，也可以通过类似 TypeSafe 的 Python API 将其接入已有的 Agent 流程中。

为什么重要

如果你在开发自主智能体或工具调用工作流，CLM-8B 非常值得尝试。很多智能体系统响应慢、Token 账单高，不是因为大模型脑子不够用，而是把宝贵的慢思考资源浪费在分类、路由和挑选项这种琐事上。把这些直觉性动作剥离给 CLM-8B，能大幅砍掉交互延迟和计算成本。

从架构上看，我们认为这种「大模型冻结底座 + 轻量对比头」的思路相当聪明。它避开了昂贵的端到端全量微调，让快速决策可以低成本定制到具体业务场景里。当然，这种纯 System 1 模式完全依赖匹配概率，无法胜任多步逻辑推演；但把它作为复杂推理模型的外围分流器和输出验证器，看起来是目前 Agent 落地最务实的方向之一。