微软完成 MAI-Base-2 预训练:2.8T 参数,效率最高达 DeepSeek 的 12 倍
Microsoft 宣布完成基础模型 MAI-Base-2 的预训练。该模型采用 MoE 架构,包含 80B 活跃参数和 2.8T 总参数,由 16k 张 GB200 GPU 训练 38 天完成。其算力效率最高达 DeepSeek-V4-Pro-Base 的 12 倍,且全程无蒸馏。微软计划通过 Foundry 授权权重,目前正进行后训练。
Microsoft 宣布完成基础模型 MAI-Base-2 的预训练。该模型采用 MoE 架构,包含 80B 活跃参数和 2.8T 总参数,由 16k 张 GB200 GPU 训练 38 天完成。其算力效率最高达 DeepSeek-V4-Pro-Base 的 12 倍,且全程无蒸馏。微软计划通过 Foundry 授权权重,目前正进行后训练。
据彭博社报道,微软开始在 Excel 和 Outlook 等办公软件中换下 OpenAI 与 Anthropic 的模型,改用自研的 MAI 家族模型处理每周数万条指令以削减成本。微软 AI 负责人 Suleyman 直言 Anthropic 太贵,目标是彻底砍掉这笔开支。目前替换部分仅占 Copilot 总量的一小部分。
Microsoft AI 发布 7 款涵盖推理、编程、多模态的自研 MAI 模型。旗舰推理模型 MAI-Thinking-1 从零训练且未用第三方蒸馏;团队还推出企业自调优功能 Frontier Tuning,并宣布成立超级智能实验室以及与 Mayo Clinic 联合研发临床医疗大模型。
据报道,Microsoft 将在 Build 大会上公布首款自研推理模型 MAI-Thinking-1,并推出专为开发者优化的 Windows 11 纯净环境。微软还将展示整合助手的 Copilot 超级应用,并强化端侧 AI 支持。不过该应用预计要到夏末才开启预览。