マイクロソフトが「Phi-3.5」3種をMITライセンスで公開

米マイクロソフトは、軽量AIモデルの最新版「Phi-3.5」シリーズ3種を公開した。すべてのモデルに商用利用の制約が極めて少ないMITライセンスが適用されており、ローカル環境やエッジ端末で動く高性能モデルを探している開発者にとって注目の選択肢となる。

今回投入されたのは、38億パラメータの「Phi-3.5-mini-instruct」、総パラメータ419億で実行時のアクティブパラメータが66億の「Phi-3.5-MoE-instruct」、そして41.5億パラメータのマルチモーダルモデル「Phi-3.5-vision-instruct」の3モデルだ。全モデルが128kトークンの長文コンテキストに対応している。

各モデルの役割と性能

最も小さいMiniは、計算資源やメモリが限られた端末向けに調整されており、コード生成や数学、論理推論を得意とする。長文コード理解を測定するベンチマーク「RepoQA」では、サイズで上回るLlama-3.1-8BやMistral-7Bを上回るスコアを記録した。512基のH100 GPUを用い、3.4兆トークンを10日間で学習している。

MoEモデルは、同シリーズで初となる専門家混合（Mixture of Experts）アーキテクチャを採用した。総パラメータは419億に達するが、推論時に動くのは66億パラメータのみに抑えられており、高速な応答が可能だ。5-shot MMLUベンチマークではGPT-4o miniを上回る成績を残している。

マルチモーダルのVisionは、画像とテキストを横断して処理する。OCRやグラフ・表の読み取り、動画の要約に対応し、128kのコンテキストを活かして複数フレームにわたる視覚情報を扱える。高品質な合成データなどを中心に、256基のA100で学習された。

入手方法とライセンス

3モデルはいずれもHugging Faceで公開されており、モデルの重みや設定ファイルを直接ダウンロードしてファインチューニングや推論を始められる。

ライセンスはMITのため、商用サービスへの組み込みや改変、再配布に法的な制約がほとんどない。MetaのLlamaシリーズのような利用者数に応じたライセンス条件を気にする必要がないのも利点だ。

ハードウェア面では、MiniとVisionは一般的なコンシューマー向けGPUや上位ノートPCでも容易に動作する。MoEは重みの読み込みに相応のビデオメモリが必要だが、推論時の計算負荷は軽量モデル並みに抑えられている。

なぜ重要か

社内データの外部送信を避けたい企業や、ローカル環境で動く軽量なコード補完ツールを作りたい開発者にとって、即座に試す価値がある。特に66億パラメータ相当の計算量でGPT-4o miniに迫るMoEの効率性は際立っている。

同クラスのオープンモデルと比較しても、パラメータあたりの推論性能とMITライセンスという使いやすさの組み合わせは強力だ。エッジAIの実用化を一段と後押しする動きと言える。