跳到正文
IFAI

行业动态

微软发布自研推理芯片 Maia 200:台积电 3nm 工艺,性价比提升 30%

首次发布 传播指数 41

微软发布专为大模型推理设计的自研芯片 Maia 200。它采用台积电 3nm 工艺,单位成本性能比现有硬件高出 30%,FP4 性能达到亚马逊 Trainium 3 的 3 倍。芯片已部署在爱荷华州数据中心,将用于支持 GPT-5.2 与 Copilot 等服务。

图:blogs.microsoft.com

云巨头们在英伟达身上砸了成百上千亿美元后,终于把算盘打到了最后一步:哪怕模型训练还得靠外部芯片,每天吐出几百亿个 token 的推理账单,必须用自研芯片省下来。

微软正式端出了第二代自研 AI 推理芯片 Maia 200。这款芯片基于台积电 3 纳米工艺打造,单颗芯片集成了超过 1400 亿个晶体管,在 750W 的功耗控制下,原生 FP4 算力突破 10 petaFLOPS,原生 FP8 算力超过 5 petaFLOPS。

微软直接把友商拉出来对比:Maia 200 的 FP4 性能达到了亚马逊第三代 Trainium 的 3 倍,FP8 性能也压过了 Google 第七代 TPU。放在微软自家的云基础设施里看,它的每美元性能比目前机队里最新一代硬件高出 30%。

专为大模型吞吐设计的内存与以太网

做大模型推理的人都知道,算力数字往往只是摆设,真正的瓶颈在于怎么把数据喂进核心。Maia 200 这次把重点全押在数据搬运上。

每颗芯片配备了 216GB 的 HBM3e 内存,带宽达到 7 TB/s,片上还塞进了 272MB 的 SRAM。搭配专门的窄精度 DMA 引擎与片上网络,核心目的就是消除显存墙,让大模型在生成 token 时不用空转等数据。

网络架构也很有意思。微软没有碰昂贵的专有网络互联协议,而是基于标准以太网搞了一套双层 scale-up 网络设计。每张托盘里的 4 颗芯片通过直连无交换链路完全互联,整颗芯片提供 2.8 TB/s 的双向专属带宽,单集群最大可以扩展到 6144 颗芯片。

微软还透露,他们采用了第二代闭环液冷换热系统,并且在芯片流片前就通过高精度模拟器完成了全链路验证。结果是从拿到第一批封装芯片到直接挂载进数据中心机架,时间缩短了一半以上,几天内就把大模型跑了起来。

这批芯片目前已经在微软位于爱荷华州得梅因附近的 US Central 数据中心上线,下一步将进驻亚利桑那州菲尼克斯附近的 US West 3 数据中心。它们将直接承担 OpenAI 最新 GPT-5.2 模型的推理任务,支撑 Microsoft 365 Copilot 与 Microsoft Foundry。微软的超级智能团队还会拿它来进行合成数据生成与强化学习。

配套的 Maia SDK 已经开放预览申请,里面包含了 Triton 编译器、PyTorch 原生集成、底层编程语言 NPL,以及专门的芯片模拟器和成本估算工具。

为什么重要

我们认为,Maia 200 的发布标志着超大规模云厂商的算力竞赛进入了精打细算的下半场。

对于日常使用 Microsoft 365 Copilot 的普通用户或者调用 Azure OpenAI 接口的开发者来说,底层换上 Maia 200 或许感知不到界面变化,但中长期的 API 降价和高并发时的响应稳定性,全指望这 30% 的每美元成本降幅。如果你的团队正打算深度定制 Azure 上的推理负载,现在的 SDK 预览确实值得去摸索,特别是 Triton 的支持让从英伟达平台迁移的门槛低了不少。

从行业竞争来看,微软走了一条非常克制且精准的路线:它不和英伟达抢通吃一切的训练市场,而是把台积电 3 纳米的昂贵产能全压在 FP4/FP8 低精度推理、标准以太网互联和大容量 HBM3e 上。推理占据了 AI 商业化生命周期里绝大部分的运营成本,微软如果能把 GPT-5.2 的生成成本砍掉三成,不仅能显著减轻自身的毛利压力,还会逼着亚马逊和 Google 继续加速迭代自家的自研 ASIC。

不过隐患同样存在。自研芯片从来不是单纯拼硬件参数,软件生态的坑远比想象中深。虽然微软端出了 Triton 编译器和 PyTorch 支持,但在生产环境的大规模并发调度下,自研以太网协议与自定义驱动的稳定性依然需要时间检验。看起来微软这次准备得足够扎实,但这套自研闭环能不能完全承接住数亿企业用户的真实流量冲击,接下来几个月的数据中心表现才是真正的大考。

来源 (1)

  1. [1]
    blogs.microsoft.com(在新标签页打开)原文blogs.microsoft.com

每日 AI 内容精选