微軟完成 MAI-Base-2 預訓練：2.8T 引數，效率最高達 DeepSeek 的 12 倍
Microsoft 宣佈完成基礎模型 MAI-Base-2 的預訓練。該模型採用 MoE 架構，包含 80B 活躍引數和 2.8T 總引數，由 16k 張 GB200 GPU 訓練 38 天完成。其算力效率最高達 DeepSeek-V4-Pro-Base 的 12 倍，且全程無蒸餾。微軟計劃通過 Foundry 授權權重，目前正進行後訓練。
Microsoft 宣佈完成基礎模型 MAI-Base-2 的預訓練。該模型採用 MoE 架構，包含 80B 活躍引數和 2.8T 總引數，由 16k 張 GB200 GPU 訓練 38 天完成。其算力效率最高達 DeepSeek-V4-Pro-Base 的 12 倍，且全程無蒸餾。微軟計劃通過 Foundry 授權權重，目前正進行後訓練。