微软发布 Decision-1:延时比 GPT-6 Sol 快 35 倍
微软推出决策评分模型 Microsoft-Decision-1。该模型基于 Qwen3.5-9B 训练,专为路由、分类等任务设计,延时比 GPT-6 Sol 快 35 倍。每百万输入 token 仅 0.042 美元且输出免费,让智能体流程控制兼具极高速度与低成本。

如果你搭过复杂的 AI 智能体工作流,大概率吃过这种亏:每个判断节点都去调一遍大语言模型,结果流程慢得像卡死,月底账单还贵得肉疼。
很多时候,软件要的根本不是 AI 滔滔不绝写一篇分析,只是需要它在几个选项里选一个,比如「继续」「重试」「转人工」。
微软正式推出了专门干这种脏活累活的轻量模型:Microsoft-Decision-1。它已经上线 Microsoft Foundry 和 OpenRouter,专门用来做模型路由、分类、优先级排序、打分核验以及工作流控制。
拿开源底座后训练,专门做单步裁决
Microsoft-Decision-1 是基于开源的 Qwen3.5-9B 进行后训练打造的。微软表示,后续还会推出基于 Microsoft AI 和 OpenAI 模型的版本。
它的逻辑很简单:给定固定的选项集合,模型直接输出经过校准的概率打分,单次调用就能搞定。它支持是非判断、多选、打分,或者依据评价标准给智能体行动打分。
在微软跑的 36 项评测基准里,涵盖了近 15 万道在训练期完全盲测的题目,Microsoft-Decision-1 的准确率拿下了第一。速度方面,它比第二名 H2O-Lightning-4B v1.1 快了 2.5 倍,P50 延迟比 GPT-6 Sol 整整快了 35 倍。
做决策模型最怕选项顺序一变、稍微换个措辞结果就变。微软在测试中用 8 种方式对同一个请求施加扰动,模型的平均翻转率只有 1.3%,在选项改写或者乱序时甚至做到了零翻转。
在安全性上,微软用 11 个基准、5250 个涉及有害内容、越狱和提示词注入的请求测试它,模型在拦截有害行为的同时没有误伤正常任务。
价格更是便宜得惊人:输入每百万 token 只要 0.042 美元,输出 token 完全免费。
微软内部团队拿它测了什么?
在公开发布前,微软内部几个团队已经把它放进了真实业务里跑。
Xbox Research 团队拿它处理了超过 1 万条来自问卷、Steam 和社交平台 X 的开放式玩家反馈,把它们归类到固定主题。结果显示,它的分类质量和 GPT-6 Sol 相当,但速度快了 14 倍以上,成本便宜了 200 倍。
Copilot 团队用它来评估聊天和智能体回复的质量,测试发现它能对齐 GPT5.6 Luna 的水准,速度却飙到了后者的 100 倍。
微软值班工程师还在故障响应中用它在日志、工单、会议记录等数据里检索知识,表现和速度都超过了通用大语言模型。
另外在 Microsoft Discovery 的科研场景中,智能体需要根据实验结果打分并反复调整方案,改用 Decision-1 之后,评分一致性达到了大语言模型的 46 倍,速度快了 3 倍,带动整个自适应规划流程提速近 4 倍。
为什么重要
大模型落地到现在,大家终于意识到一个尴尬的现实:用通用大模型去控流程、做路由,就像拿几十万的精密显微镜去砸核桃,既慢又费钱。
对于正在做多智能体协作、复杂自动化工作流的开发者来说,Microsoft-Decision-1 非常值得立刻试水。如果你的系统里有几十个连续的 if-else 判定、分类或者数据打标环节,换掉昂贵的通用大模型,延迟可以直接从几秒压到毫秒级,还能大幅砍掉 API 支出。
从行业角度看,AI 的分工正在从「一个模型包打天下」走向真正的流水线分工。推理归前沿大模型,结构化判断归决策模型,这种架构一旦普及,不仅会改变智能体系统的搭建标准,也会倒逼其他模型厂商跟进做轻量裁决工具。
我们认为,微软这一步走得相当实在。它没有去硬卷通用大模型的参数规模,而是敏锐地卡住了「智能体控制层」这个高频刚需。唯一的潜在隐患在于,它把基础能力押在 Qwen3.5-9B 上,未来如果遇到需要极高领域专业知识或超长跨度隐式逻辑的极端裁决,9B 的体量可能仍会有天花板,但这完全可以通过外接大模型兜底来解决。
来源 (1)
- commandline.microsoft.com(在新标签页打开)原文commandline.microsoft.com