MistralのCEO、GPT-4級モデル「miqu-1-70b」の流出を認める

miqu-1-70bは、OpenAIの最上位モデル「GPT-4」に迫る推論・生成性能を誇る700億パラメータ（70B）の大規模言語モデルです。

「Miqu Dev」というユーザーによってHugging Faceに投稿され、4chanやXで急速に拡散しました。2024年1月31日、MistralのCEOであるArthur MenschがX上で、同社がMetaのLlama 2をベースに再学習した古い社内モデルの流出であることを公式に認めました。アーリーアクセスを提供していた顧客企業の従業員が誤って公開してしまったものです。

何ができるのかとベンチマーク性能

miqu-1-70bは高度なテキスト処理に対応しており、プロンプトの入力形式（Prompt format）はMistralの既存モデルと共通です。

コミュニティの検証で判明した性能は極めて優秀です。総合的な対話能力を測るEQ-Benchにおいて、オープンモデルとしては異例となるGPT-4肉薄のスコアを記録しました。

多くのテストでMistralの主力オープンモデル「Mixtral 8x7b」と同等以上の数値を出し、Mistral Mediumを上回る場面も見られました。当時のベンチマーク上、GPT-4を除くほぼすべての競合モデルを抑える実力を示しています。

仕組みと動作環境

モデル構造はMetaのLlama 2（70B）をベースにしており、同社の計算クラスタ稼働直後に再学習されたものです。Menschによると、事前学習は初代Mistral 7Bがリリースされた日に完了していました。

流出したファイルは量子化（Quantized）され、電子透かしが入った状態でした。JPモルガンのML研究者Maxime Labonne氏が指摘した通り、その後コミュニティの手で非量子化バージョンも復元されています。

量子化版をローカルで動かす場合でも、48GB以上のVRAMを備えたマルチGPU環境や、大容量のユニファイドメモリを搭載したMacが必要になります。

入手方法と利用上の制限

モデルファイルは現在もHugging Face上に残されており、ローカル実行環境にダウンロードして利用できます。

Mistral側は削除申請を行っておらず、Mensch自身が投稿のコメント欄に「クレジットの明記を検討してほしい」とユーモアを交えて書き込みました。

ただし、公式ライセンスが付与されたリリースではありません。顧客用の透かしが入った流出ファイルであるため、企業での商用利用にはコンプライアンス上の大きなリスクが伴います。

なぜ重要か

miqu-1-70bの存在は、適切な追加学習を施せば70BクラスのオープンモデルでもGPT-4の牙城に迫れることを実証しました。

ローカル環境でAPI代をかけずに最高峰の知能を試したい開発者にとっては、今すぐ検証する価値のあるモデルです。実運用を目指す組織は、正規ライセンスを持つ後継モデルの登場を待つのが賢明です。