本文へスキップ
IFAI

AIモデル

マイクロソフト、高速推論モデル「Phi-4-mini-flash-reasoning」を発表

公開 拡散指数 49

マイクロソフトは38億パラメータのオープンモデル「Phi-4-mini-flash-reasoning」を発表した。Mambaとアテンションを組み合わせた新アーキテクチャにより、スループットを最大10倍向上、遅延を2〜3倍削減。エッジやモバイルでの高度な数学的推論を実現する。

マイクロソフト、高速推論モデル「Phi-4-mini-flash-reasoning」を発表
画像:azure.microsoft.com

Phi-4-mini-flash-reasoningは、スマートフォンやエッジデバイス、単一のGPU環境向けに開発された38億パラメータのオープン推論モデルだ。64Kトークンのコンテキスト長をサポートし、リソースが厳しく制限された環境でも高度な数学的推論や論理的思考タスクをこなす。

先行モデルであるPhi-4-miniをベースにしながらも、従来のTransformer構造にとらわれず、新しいハイブリッドアーキテクチャを採用した。推論精度を落とすことなく、スループットと応答速度の大幅な向上を実現している。

新アーキテクチャ「SambaY」の仕組み

この高速化の中心にあるのが、SambaYと呼ばれる新しいデコーダー・ハイブリッド・デコーダー構造だ。中核となるイノベーションは、層間で特徴表現を効率的に共有するゲート付きメモリユニット(GMU)にある。

セルフデコーダー部では、状態空間モデル(SSM)のMambaとスライディングウィンドウアテンション(SWA)を組み合わせ、全結合アテンションはわずか1層のみに抑えた。さらにクロスデコーダー部では、計算コストの高いクロスアテンション層の間にGMUを交互に配置している。

この設計により、線形時間のプリフィル計算量を維持したままデコード効率を大幅に改善し、長文脈での検索性能と高速な推論処理を両立させている。

10倍のスループットと想定されるユースケース

マイクロソフトの発表によると、本モデルはPhi-4-mini-reasoningと比較して最大10倍のスループットを達成し、レイテンシは平均で2〜3倍削減された。特に長文脈生成や即時応答が求められる論理タスクでその差が顕著に現れる。

学習には高品質な合成データが活用され、SFT、DPO、RLHFといった安全基準と性能を高めるポストレポーティング手法が適用されている。

適しているのは、汎用的な対話よりも即時の論理検証が求められる場面だ。受講者の解答をリアルタイムに評価する適応型学習プラットフォームや、端末内で完結する学習支援エージェント、即時性が不可欠なシミュレーション評価ツールなどで威力を発揮する。

入手方法と実行環境

本モデルはシングルGPUで動作するため、大がかりなインフラなしに手元で試すことができる。モデルウェイトはすでにHugging Faceで公開されており、Azure AI FoundryやNVIDIA API Catalogを通じてクラウド経由で利用することも可能だ。詳細な技術論文はArXivで閲覧できる。

なぜ重要か

エッジ端末での高度なAI推論は、長らく速度と計算リソースの壁に阻まれてきた。重厚なモデルを動かせばレスポンスが遅すぎて実用にならず、軽量化すれば論理的な思考力が崩れてしまうからだ。

Phi-4-mini-flash-reasoningは、Mambaと注意機構を組み合わせることで、40億弱の小型サイズでも実用的な思考速度と精度を両立できることを実証した。教育系サービスやローカルエージェントを構築する開発者にとって、すぐに検証する価値のある選択肢となるはずだ。

情報源 (1)

  1. [1]
    azure.microsoft.com(新しいタブで開きます)原文azure.microsoft.com

毎日のAIピックアップ