マイクロソフト、2.8TパラメータのMoE基盤モデル「MAI-Base-2」を発表
Microsoftは大規模MoEモデル「MAI-Base-2」の事前学習完了を発表した。アクティブパラメータ80B、総パラメータ2.8Tを誇り、16k基のGB200で38日間学習された。DeepSeek-V4-Pro-Baseに対し最大12倍の計算効率を達成し、他モデルからの蒸留なしで構築されている。企業向けにFoundry経由で重みが提供される予定で、現在は事後学習を進めている。
Microsoftは大規模MoEモデル「MAI-Base-2」の事前学習完了を発表した。アクティブパラメータ80B、総パラメータ2.8Tを誇り、16k基のGB200で38日間学習された。DeepSeek-V4-Pro-Baseに対し最大12倍の計算効率を達成し、他モデルからの蒸留なしで構築されている。企業向けにFoundry経由で重みが提供される予定で、現在は事後学習を進めている。
報道によると、米マイクロソフトはコスト削減のため、ExcelやOutlookでOpenAIやAnthropicのモデルから自社製「MAI」モデルへの置き換えを始めた。AI責任者のスレイマン氏はAnthropicのコストを最終的にゼロにしたいと明言。現状は週に数万件のプロンプトを処理する小規模な移行にとどまる。
Microsoft AIは推論、コーディング、音声などを網羅する7種類の自社開発MAIモデルを発表した。旗艦推論モデル「MAI-Thinking-1」は他社モデルからの蒸留を行わずにゼロから学習。企業向け「Frontier Tuning」機能やMayo Clinicとの医療モデル共同開発、超知能研究所の設立も明かされた。
報道によると、Microsoft は開発者会議「Build」で初の独自推論モデル「MAI-Thinking-1」や開発者向けに最適化された Windows 11 環境を披露する見込みだ。さらに Copilot 統合アプリや端側 AI の強化も予告されている。ただし、Copilot スーパーアプリのプレビューは夏の終わり頃になる見通しだ。