微軟完成 MAI-Base-2 預訓練:2.8T 引數,效率最高達 DeepSeek 的 12 倍
Microsoft 宣佈完成基礎模型 MAI-Base-2 的預訓練。該模型採用 MoE 架構,包含 80B 活躍引數和 2.8T 總引數,由 16k 張 GB200 GPU 訓練 38 天完成。其算力效率最高達 DeepSeek-V4-Pro-Base 的 12 倍,且全程無蒸餾。微軟計劃通過 Foundry 授權權重,目前正進行後訓練。
Microsoft 宣佈完成基礎模型 MAI-Base-2 的預訓練。該模型採用 MoE 架構,包含 80B 活躍引數和 2.8T 總引數,由 16k 張 GB200 GPU 訓練 38 天完成。其算力效率最高達 DeepSeek-V4-Pro-Base 的 12 倍,且全程無蒸餾。微軟計劃通過 Foundry 授權權重,目前正進行後訓練。
據彭博社報道,微軟開始在 Excel 和 Outlook 等辦公軟體中換下 OpenAI 與 Anthropic 的模型,改用自研的 MAI 家族模型處理每週數萬條指令以削減成本。微軟 AI 負責人 Suleyman 直言 Anthropic 太貴,目標是徹底砍掉這筆開支。目前替換部分僅佔 Copilot 總量的一小部分。
Microsoft AI 釋出 7 款涵蓋推理、程式設計、多模態的自研 MAI 模型。旗艦推理模型 MAI-Thinking-1 從零訓練且未用第三方蒸餾;團隊還推出企業自調優功能 Frontier Tuning,並宣佈成立超級智慧實驗室以及與 Mayo Clinic 聯合研發臨床醫療大模型。
據報道,Microsoft 將在 Build 大會上公佈首款自研推理模型 MAI-Thinking-1,並推出專為開發者最佳化的 Windows 11 純淨環境。微軟還將展示整合助手的 Copilot 超級應用,並強化端側 AI 支援。不過該應用預計要到夏末才開啟預覽。