螞蟻開源 4B 決策模型 LemonDecider：推理耗時 50.7ms，跑贏 Jev

LemonDecider 是螞蟻開源的 4B 專用決策模型，基於 Qwen3.5-4B 訓練。它的核心思路是不做多餘的文字生成，直接輸出結構化的判斷結果。

它能做什麼與怎麼做到的

模型支援三類直接輸出：Choice 用於從多個工具或工作流中多選一，Yes/No 用於判斷請求是否合規或證據是否充分，Score 用於對檢索相關性和內容質量打分。

它還支援多工合併處理。在同一段上下文裡，你可以一次提交多個決策問題，只要長度允許，模型通過一次前向計算就能同時輸出所有結果，省去了反覆處理相同背景上下文的開銷。

在 Decision Index 0.4.1 Public 評測中，LemonDecider 4B 拿下 61.67 分，超過了 Jev 1.14 的 60.70 分。在約 14 萬條完整測試請求中，中位推理耗時僅為 50.7ms。螞蟻這次連同訓練程式碼以及 120 萬條訓練樣本一起開源，覆蓋了意圖識別、工具路由、內容安全等 864 個任務標籤。

為什麼重要

如果你在搭建 Agent 系統，經常需要用模型來做前置的工具分發或二元過濾，這個模型很適合當作低延遲的路由閘道器。4B 體量小、推理耗時只要 50ms 級別，能省下昂貴的大模型 token 和等待時間。

更實在的是螞蟻放出了 120 萬條專門針對決策微調的資料集和訓練程式碼。對於想自建私有輕量分類與路由模型的團隊來說，這套資料和訓練流程甚至比模型權重本身更有參考價值。