跳到正文
IFAI

開源專案

小米開源 MiMo-V2-Flash:309B 引數 MoE 模型,主打程式設計推理與極致價效比

首次發布 傳播指數 34

小米釋出並開源大模型 MiMo-V2-Flash,總引數 309B、啟用 15B。它主打程式設計與推理,支援 256k 上下文,並在 SWE-bench Verified 登頂開源第一。模型每秒生成 150 token,百萬輸入輸出僅 0.1 和 0.3 美元,大幅降低了智慧體與程式碼生成的呼叫門檻。

MiMo-V2-Flash 是小米開源的一個超大引數混合專家模型,總引數量達到 309B,實際啟用引數僅為 15B。它專門針對程式碼編寫、複雜推理和智慧體場景最佳化,既能在長程任務裡當好程式設計助手,也能兼顧日常問答。

它能做什麼與實測表現

寫程式碼和解決工程 Bug 是這個模型最擅長的領域。在評估軟體工程實戰能力的 SWE-bench Verified 和多語言基準測試中,MiMo-V2-Flash 拿下了所有開源模型裡的第一名,表現已經咬住了全球最頂尖的閉源模型。

在數學競賽 AIME 2025 和科學知識問答 GPQA-Diamond 榜單上,它的成績也排在開源模型前兩位。

針對開發者的日常使用,模型設計了不少實用功能。它支援混合思考模式,你可以自由切換讓它深思熟慮之後再作答,還是直接快速給出結果。它能一鍵生成可互動的 HTML 網頁,也可以無縫接入 Cursor、Cline 和 Claude Code 等當下流行的程式設計輔助工具。

MiMo-V2-Flash 還支援 256k 的超長上下文。這意味著在複雜的智慧體工作流裡,它能夠經受住連續數百輪的工具呼叫和上下文互動,不至於輕易忘記前面的設定。

怎麼做到又快又便宜

模型的推理速度達到了每秒 150 個 token。在 API 定價上,每百萬輸入 token 僅需 0.1 美元,每百萬輸出 token 為 0.3 美元,價效比非常誇張。

為了壓榨速度,小米在架構上做了一些取捨。它採用滑動視窗注意力和全域性注意力交替的混合架構,比例為 5 比 1,視窗大小隻有 128 個 token。這種固定大小的 KV 快取結構大幅減輕了視訊記憶體讀寫壓力。

解碼階段則原生引入了多 token 預測機制來做投機解碼。它在輕量級的輔助層上預測後續內容,再由主模型並行驗證,實測在 3 層預測模組下能實現 2.0 到 2.6 倍的推理加速。

在後訓練階段,團隊沒有直接堆算力做傳統的強化學習,而是提出了一種多教師線上策略蒸餾方法。讓學生模型在自己取樣的軌跡上接收多個教師模型的細粒度獎勵,用不到傳統流程五十分之一的計算資源就達到了預期的推理效能。

上手體驗與使用門檻

目前小米已經在 mimo.xiaomi.com 上線了相關服務,模型權重也已經對外開源。開發者可以直接在網頁平臺體驗,或者通過相容的客戶端配置 API 接入自己的編輯器環境。

需要注意的是,雖然它每次推理只啟用 15B 引數,但 309B 的總引數量擺在那裡。如果你想在本地完全自建部署,依然需要相當高配置的視訊記憶體裝置來容納全部權重。

為什麼重要

對於每天靠 Cursor 或 Cline 寫程式碼的開發者來說,MiMo-V2-Flash 提供了一個兼具頂級程式碼能力和極低呼叫成本的新選項。只要接入 API,就能以非常便宜的價格跑長上下文專案,很適合用來做日常的批次程式碼重構或自動測試。

在開源生態裡,它證明了通過激進的區域性注意力配比與自推測解碼,超大引數量的 MoE 也能在速度和價格上逼近小模型。如果它的長上下文穩定性在後續實測中經得起考驗,國內大模型在程式設計智慧體這條賽道上的競爭門檻又要被拉高一截。

來源 (2)

  1. [1]
    mimo.xiaomi.com(在新分頁開啟)原文mimo.xiaomi.com
  2. [2]

每日 AI 內容精選