本文へスキップ
IFAI

オープンソース

マイクロソフトが「Phi-4-reasoning-plus」公開:14Bで70B蒸留版超え、MITライセンス

公開 拡散指数 36

Microsoftはオープンウェイトの推論モデル「Phi-4-reasoning-plus」を公開しました。14Bという軽量サイズながら、AIME 2025数学テストのpass@1で70BのDeepSeek-R1蒸留版を上回る精度を記録。商用利用しやすいMITライセンスで提供され、OllamaやvLLMでも手軽に動かせます。

マイクロソフトが「Phi-4-reasoning-plus」公開:14Bで70B蒸留版超え、MITライセンス
画像:venturebeat.com

Microsoftが公開した「Phi-4-reasoning-plus」は、数学や科学、プログラミングなどの論理的推論に特化した14Bパラメータのオープンウェイトモデルです。

14Bという扱いやすいサイズでありながら、推論性能は格上の大型モデルに迫ります。難関の数学テスト「AIME 2025」において、全30問を一発で解くpass@1の正答率で70BのDeepSeek-R1蒸留版を上回り、671Bの原版DeepSeek-R1に迫るスコアを記録しました。

仕組みとスペック

マイクロソフトはモデルの巨大化ではなく、データの品質を徹底的に磨くアプローチをとりました。学習に使ったデータはわずか160億トークンで、重複を除いたユニークトークンは約83億トークンにとどまります。

教師あり微調整の段階では、思考プロセスを明示的に囲む特殊タグ「<think>」と「</think>」を導入しました。これにより思考過程と最終回答が明確に分離され、長文の推論でも一貫性を保ちやすくなっています。

強化学習には約6400問の数学問題を用い、GRPOアルゴリズムを適用しました。正解率と簡潔さを両立させ、無駄な繰り返しを減らす報酬設計により、自信がない問題ほど自発的に深く推論する挙動を獲得しています。

アーキテクチャはdense decoder-only構成で、コンテキスト長は標準で32000トークン、テストでは最大64000トークンまで安定して処理できます。

動かし方と制限

ライセンスには寛容なMITライセンスを採用しています。商用利用や追加のファインチューニング、蒸留用途にも制限はありません。

実行環境も整っており、Hugging Face Transformersをはじめ、vLLM、llama.cpp、Ollamaなどでそのまま動作します。

利用時はチャット形式を選び、ステップ・バイ・ステップで思考してから回答を出力するようシステムプロンプトで指示するのが最適とされています。

なお、汎用的な会話モデルではなく推論特化コンポーネントとしての位置づけのため、業務投入前には自前での安全性評価が推奨されています。

なぜ重要か

70Bクラスの推論モデルをローカルで動かすには高価なGPU環境が必要でしたが、14Bであれば一般的なワークステーションや手元の開発機でも現実的な速度で動作します。

高品質な合成データと厳選された強化学習によって、小型モデルでも最高峰の推論が可能だと証明された意味は大きいです。MITライセンスで自由に扱えるため、企業のオンプレミス環境や小型モデルへの蒸留元として有力な選択肢になります。

情報源 (1)

  1. [1]
    venturebeat.com(新しいタブで開きます)原文venturebeat.com

毎日のAIピックアップ