Mistral AIが「Mistral Large 2」公開：単一ノードで動く123Bモデル、GPT-4o匹敵の推論力

大規模言語モデルの巨大化競争が続く中、フランスの Mistral AI が実用性を重視した新フラッグシップ「Mistral Large 2」を発表しました。

パラメータ数は 1230 億（123B）に抑えられており、単一のサーバーノードで高速かつ高スループットに動作するよう設計されています。

ベンチマークの MMLU では 84.0% の精度を記録しました。Mistral によると、コード生成や推論性能において、GPT-4o、Claude 3 Opus、さらには Meta が発表したばかりの Llama 3 405B と肩を並べる水準に達しているとのことです。

単一ノードで動く 123B の実力

Mistral Large 2 は、従来の 32k から 128k トークンへとコンテキストウィンドウが大幅に拡大されました。膨大なコードベースや長文ドキュメントもそのまま処理可能です。

対応言語は日本語、英語、フランス語、中国語など多岐にわたり、プログラミング言語も Python、Java、C++、Swift、Fortran を含む 80 以上をカバーしています。

機能面では、ネイティブな JSON 出力や並列・順次のファンクションコーリングに対応しており、エージェントシステムの構築にも適しています。

注目すべきはハルシネーション対策です。確信が持てない場合や情報が不足している際には、もっともらしい嘘をつくのではなく、回答できない旨を認めるよう調整されています。

また、ベンチマークのスコアを稼ぐための過度な長文出力を排し、簡潔で要点を得た回答を返すよう最適化されている点も特徴です。これにより推論コストと応答速度の両方が改善されます。

モデルの重みは Hugging Face で公開されていますが、ライセンスは研究および非商用利用向けの「Mistral Research License」となっています。自社でホストして商用利用する場合は、商用ライセンスの契約が必要です。

クラウド経由では、公式の la Plateforme や Amazon Bedrock、Azure AI Studio、IBM watsonx.ai に加え、新たに Google Cloud の Vertex AI からも利用可能になっています。

なぜ重要か

私たちは、Mistral Large 2 が現在の市場において極めて現実的な解を提示したと評価しています。

4000 億パラメータを超える巨大モデルは確かに高性能ですが、自社インフラで運用するには莫大なコストと設備が必要です。123B というサイズに抑え、単一ノードで高いスループットを出せるようにした設計は、まさに現場のコスト感覚に寄り添ったものと言えます。

業界全体にとっても、競争の軸が「パラメータの力技」から「推論あたりのコストパフォーマンス」へとシフトしていることを鮮明に示しました。

課題となるのは商用利用時のライセンス形態です。従来の Apache 2.0 ではなく、自社運用での商用化には個別契約が必要なため、完全なオープンソースを求める企業にはハードルが残ります。それでも、API や主要クラウド上で手軽に最高クラスのコード生成・多言語処理を行いたい開発者にとっては、今すぐ試す価値のある有力な選択肢です。