微软完成 MAI-Base-2 预训练:2.8T 参数,效率最高达 DeepSeek 的 12 倍
Microsoft 宣布完成基础模型 MAI-Base-2 的预训练。该模型采用 MoE 架构,包含 80B 活跃参数和 2.8T 总参数,由 16k 张 GB200 GPU 训练 38 天完成。其算力效率最高达 DeepSeek-V4-Pro-Base 的 12 倍,且全程无蒸馏。微软计划通过 Foundry 授权权重,目前正进行后训练。
Microsoft 宣布完成基础模型 MAI-Base-2 的预训练。该模型采用 MoE 架构,包含 80B 活跃参数和 2.8T 总参数,由 16k 张 GB200 GPU 训练 38 天完成。其算力效率最高达 DeepSeek-V4-Pro-Base 的 12 倍,且全程无蒸馏。微软计划通过 Foundry 授权权重,目前正进行后训练。