マイクロソフトが小型モデル「Phi-4」公開、数学推論を大幅強化

米マイクロソフトは、小型言語モデル「Phi」シリーズの最新版となる「Phi-4」を発表しました。現在は限定的なリサーチプレビューとして提供されています。

今回の Phi-4 はパラメータ数が 140 億（14B）となっており、GPT-4o mini や Gemini 2.0 Flash、Claude 3.5 Haiku といった競合各社の軽量・高効率モデルと直接競合する位置づけです。利用はマイクロソフトの研究ライセンス契約に基づき、新たに開設された開発プラットフォーム「Azure AI Foundry」上での研究目的に限られています。

合成データで数学の推論能力を強化

マイクロソフトによると、Phi-4 は従来のモデルと比べて複数の領域で性能が向上しており、特に数学的な問題解決能力で顕著な改善が見られるといいます。

この進化を支えたのが訓練データの質です。人間が作成した高品質なデータセットに加え、高品質な合成データセットを活用し、さらに詳細非公開のポストトレーニング（事後学習）手法を組み合わせることで性能を押し上げました。

現在、多くの AI 研究所が合成データとポストトレーニングの革新に注力しています。AI 向けデータ基盤を提供する Scale AI のアレクサンドル・ワン CEO も木曜日に、業界が事前学習データの壁に直面したと投稿しており、インターネット上の学習用テキストが枯渇しつつある現状を裏付けています。

開発リーダー離脱後の初モデル

Phi-4 は、シリーズの開発を牽引してきたセバスチャン・ブベック氏が退社した後に登場した最初のモデルとしても注目されています。

マイクロソフトで AI 担当バイスプレジデントを務めていたブベック氏は、Phi シリーズの立役者として知られていましたが、10 月に米 OpenAI へ移籍しました。同氏の移籍後もマイクロソフトが小型モデルの開発ラインを維持できるかどうかの試金石となります。

なぜ重要か

実務で AI を動かすエンジニアや企業にとって、14B クラスのモデルはコストと処理速度のバランスが最も取りやすい領域です。数学や論理推論の精度が本当に上がっているならば、業務自動化やコード生成などの現場で運用コストを大きく削る有力な候補になります。ただし、現時点では Azure AI Foundry 内での研究目的に制限されており、商用プロダクトへすぐに組み込めない点には注意が必要です。

業界全体から見れば、Phi-4 は「データ枯渇問題」に対する現実的な解決策を提示しています。ウェブ上のテキストを漫然と集める事前学習が限界に近づくなかで、良質な合成データと事後学習で知能を底上げする手法が不可欠になりつつあります。

マイクロソフトのアプローチは理にかなっていると私たちは考えます。一方で、事後学習の具体的な技術内容が明かされていない点や、立役者を失ったチームが今後も競合に先駆けて小型モデルを進化させ続けられるかという組織的な課題は、今後のリリースを見守る必要があります。