本文へスキップ
IFAI

オープンソース

シャオミが「MiMo-V2-Flash」をオープンソース化、コーディング特化の309B MoEモデル

公開 拡散指数 34

シャオミは推論とコーディングに特化した新モデル「MiMo-V2-Flash」をオープンソース公開した。総パラメータ309B(アクティブ15B)のMoE構成で、256kの長文脈に対応する。SWE-benchのオープンソース首位を獲得しつつ、秒間150トークンと超低コスト推論を実現した点が注目される。

MiMo-V2-Flashは、シャオミがオープンソースとして公開した大規模なMixture-of-Experts(MoE)基盤モデルです。総パラメータ数は309Bですが、推論時にアクティブになるのは15Bに抑えられており、コーディング、推論、自律型エージェントの処理に最適化されています。

何ができるかとベンチマーク性能

最も得意とするのはソフトウェア開発の実務タスクです。実際のバグ修正能力を測るSWE-bench VerifiedおよびMultilingualベンチマークにおいて、MiMo-V2-Flashはオープンソースモデルとして世界1位を獲得し、主要な商用クローズドモデルに匹敵するスコアを記録しました。

難関数学コンペのAIME 2025や科学知識を問うGPQA-Diamondでも、オープンソース勢の中でトップ2に位置しています。

開発者向けの機能も揃っています。即座に回答させるか思考プロセスを踏ませるかを切り替えられるハイブリッド思考モードを搭載。機能するHTMLウェブページをワンクリックで生成できるほか、CursorやCline、Claude Codeといった注目の開発環境ともスムーズに連携します。256kの長文脈に対応しているため、数百回に及ぶツール呼び出しを伴うエージェント処理もこなせます。

なぜ高速かつ低コストなのか

推論速度は秒間150トークンに達します。API利用料は100万入力トークンあたり0.1ドル、100万出力トークンあたり0.3ドルという異例の低価格に設定されています。

この効率を支えているのが、グローバルアテンションとスライディングウィンドウアテンションを1対5の比率で組み合わせたハイブリッド構造です。ウィンドウ幅を128トークンと小さく保つことで、KVキャッシュのメモリ消費を固定し、I/O負荷を大幅に削減しています。

さらに、投機的デコーディングを行うためのマルチトークン予測(MTP)機構を標準搭載しました。メインモデルが複数トークンをまとめて検証することで、2.0倍から2.6倍の実効速度向上を実現しています。

事後学習には、マルチティーチャー・オンラインポリシー蒸留(MOPD)と呼ばれる手法を採用しました。専門教師モデルからの詳細な報酬を用いることで、従来の強化学習パイプラインに比べて50分の1以下の計算資源で同等の推論能力を獲得したとしています。

試し方とハードウェア要件

重みはオープンソース化されており、公式のmimo.xiaomi.comプラットフォーム上でも利用可能です。エディタの拡張機能からAPI経由で呼び出すこともできます。

ただし、アクティブパラメータが15Bとはいえ、モデル全体の容量は309Bあります。ローカル環境で自前運用する場合は、相当なVRAM容量を持つサーバー設備が必要になる点には注意が必要です。

なぜ重要か

Cursorなどのツールを使って日常的にコードを書く開発者にとって、最高水準のコーディング性能を極めて安価に利用できる強力な選択肢が登場したことになります。エージェントにコードベース全体を走査させるような、トークン消費の激しい用途でもコストを気にせず試す価値があります。

また、計算の重い超巨大MoEであっても、アテンションの工夫と投機的デコーディングを組み合わせれば実用的なレイテンシと価格に落とし込めることを実証しました。オープンソースのプログラミングエージェント環境において、他社への強い牽制になりそうです。

情報源 (2)

  1. [1]
    mimo.xiaomi.com(新しいタブで開きます)原文mimo.xiaomi.com
  2. [2]

毎日のAIピックアップ