蚂蚁开源 4B 决策模型 LemonDecider：推理耗时 50.7ms，跑赢 Jev

LemonDecider 是蚂蚁开源的 4B 专用决策模型，基于 Qwen3.5-4B 训练。它的核心思路是不做多余的文字生成，直接输出结构化的判断结果。

它能做什么与怎么做到的

模型支持三类直接输出：Choice 用于从多个工具或工作流中多选一，Yes/No 用于判断请求是否合规或证据是否充分，Score 用于对检索相关性和内容质量打分。

它还支持多任务合并处理。在同一段上下文里，你可以一次提交多个决策问题，只要长度允许，模型通过一次前向计算就能同时输出所有结果，省去了反复处理相同背景上下文的开销。

在 Decision Index 0.4.1 Public 评测中，LemonDecider 4B 拿下 61.67 分，超过了 Jev 1.14 的 60.70 分。在约 14 万条完整测试请求中，中位推理耗时仅为 50.7ms。蚂蚁这次连同训练代码以及 120 万条训练样本一起开源，覆盖了意图识别、工具路由、内容安全等 864 个任务标签。

为什么重要

如果你在搭建 Agent 系统，经常需要用模型来做前置的工具分发或二元过滤，这个模型很适合当作低延迟的路由网关。4B 体量小、推理耗时只要 50ms 级别，能省下昂贵的大模型 token 和等待时间。

更实在的是蚂蚁放出了 120 万条专门针对决策微调的数据集和训练代码。对于想自建私有轻量分类与路由模型的团队来说，这套数据和训练流程甚至比模型权重本身更有参考价值。