微软上线 MAI-Code-1.1-Flash:推理成本砍掉 75%,速度提升 25%
微软在 GitHub Copilot 中上线编程模型 MAI-Code-1.1-Flash。相比 6 月发布的 1.0 版本,新模型推理成本直降 75%,Token 输出速度提升 25%,并针对 CLI 与 .NET 场景做了专门优化。后续还支持 3-bit 量化在本地端侧运行,保留 256K 上下文且免推理费。

写代码用 AI 确实爽,但无论对开发者还是对平台来说,背后狂跳的算力账单都让人肉痛。
微软给 GitHub Copilot 装上了一台新引擎:MAI-Code-1.1-Flash。作为一款主打轻量高效的编程主力模型,它已经正式进入 GitHub Copilot 生产环境。
相比 6 月在微软 Build 大会上亮相的 1.0 版本,新模型最狠的地方在于把推理成本直接砍掉了 75%。与此同时,它的 Token 输出速度提升了 25%,完成同一任务所需的 Token 数量也降低了 25%。
专治水土不服的实战派
大模型在基准跑分榜上刷分是一回事,进终端敲代码又是另一回事。
微软表示,这次的改动完全是听了开发者的吐槽。大家平时最需要的不是抽象的数学逻辑,而是实打实的命令行(CLI)支持和 .NET 场景。于是团队集中火力优化了这两块,最终让新模型在 Terminal-Bench 2.1 上的得分暴涨 22%,.NET 任务表现提升了 15%。
为了让代码真正实用,微软在 GitHub Copilot 内部超过数十万个强化学习环境中对模型进行了打磨。
成效很快在真实业务中显现出来:线上代码存活率提升了 4%,开发者的回访率增加了 9%。说白了,生成出来的代码不是被看一眼就删掉,而是真被程序员留下来合进了仓库。
256K 上下文塞进端侧,推理费直接归零
更让人眼前一亮的是端侧落地的规划。
微软后续披露,MAI-Code-1.1-Flash 支持 3-bit 量化,不仅大幅降低了对硬件显存和内存的占用,还硬生生保留了完整的 256K 超长上下文窗口。在 SWE-Bench Verified 和 Terminal-Bench 2.1 上,它的编程表现基本追平了全精度版本。
这也给 GitHub Copilot 的模型路由带来了全新的打法:合规、常规的代码补全直接交由开发者本地硬件运行,推理费用直接变成零;只有遇到更庞杂、需要极强推理能力的任务时,再自动转给云端大模型。
不过想在本地尝鲜门槛不低,微软推荐本地设备的运行内存最好超过 120GB。按照计划,这项实验性支持将在月底前陆续进入 GitHub Copilot 独立客户端、CLI 以及 VS Code。
为什么重要
对一线开发者来说,这种提速降本意味着肉眼可见的体验改善。光标等待响应的时间短了 25%,生成的废话少了四分之一。如果你的工作站配置足够高,未来甚至能在断网或严格保密的情况下,免费享受到 256K 窗口的端侧智能补全。
而对微软和 GitHub 来说,这一步走得相当精明。Copilot 采用固定订阅制,用户敲的代码越多,云端消耗的算力就越重。把推理单价砍掉四分之三,再通过本地端侧分流一部分日常请求,直接卸下了平台最沉重的算力负担,把利润空间实打实留给了自己。
我们认为,MAI-Code-1.1-Flash 印证了编程 AI 的新趋势:无脑堆砌千亿参数去刷榜的时代已经到头了。未来的战场属于针对真实生产场景精调、推理飞快、成本极低的小钢炮,配合端云协同的混合架构,才是让 AI 真正扎进日常开发的正解。
来源 (1)
- microsoft.ai(在新标签页打开)原文microsoft.ai