Mistral 釋出 Mistral 3:675B 旗艦與端側小模型全線 Apache 2.0 開源
Mistral AI 正式推出新一代 Mistral 3 模型家族,且全線採用寬鬆的 Apache 2.0 許可證開源。新系列包括總引數 675B(啟用 41B)的旗艦 MoE 模型 Mistral Large 3,以及覆蓋 3B、8B、14B 的端側模型 Ministral 3。全系均原生支援影像理解與多語言對話,還針對輝達硬體進行了低精度推理深度最佳化。

Mistral 3 是一套從端側小模型到超大旗艦 MoE 全面覆蓋的開源多模態模型家族,最關鍵的是,這次全系模型全部採用無商業限制的 Apache 2.0 許可證開源,權重直接開放下載。
全家桶裡最受關注的是旗艦 Mistral Large 3。它是一個總引數量 675B、每次計算啟用 41B 的稀疏混合專家(MoE)模型,支援 256K 超長上下文,原生具備影像理解和 40 多種語言的對話能力。在 LMArena 榜單上,它的開源非推理模型排名衝到了第二,開源總榜排第六。
對於想在本地或邊緣裝置上跑本地模型的開發者,Mistral 這次拿出了 Ministral 3 系列。它包含 3B、8B 和 14B 三種尺寸,每種尺寸都給齊了 Base、Instruct 和 Reasoning(推理)三種版本,一共 9 個模型,全系都自帶視覺理解能力。根據官方給出的測試,14B 的推理版在 AIME 2025 數學競賽測試上拿到了 85% 的成績。
硬體門檻和怎麼跑起來
大模型和小模型對硬體的要求差別很大,你可以根據手頭的卡來挑。
Mistral Large 3 依靠輝達、Red Hat 和 vLLM 的最佳化,放出了 NVFP4 低精度量化檢查點。單臺 8 張 A100 或 8 張 H100 的節點,配合 vLLM 就能直接跑起來;如果是在輝達 GB200 NVL72 系統上,官方稱其推理效能比上一代 H200 提升了 10 倍。
如果你手頭只有消費級顯示卡或者筆記本,直接看 Ministral 3 就行。這 9 個小模型全部支援單卡部署,甚至能在搭載 RTX 的筆記本、輝達 Jetson 邊緣計算板和 DGX Spark 上離線執行。
目前這套模型已經全面上線。程式碼和權重可以直接去 Hugging Face 下載,本地玩家可以通過 Ollama 和 Llama.cpp 一鍵拉取執行,雲端也已經接入了 Mistral AI Studio、OpenRouter、Fireworks、Unsloth AI、Together AI 以及 Azure 和 AWS。
為什麼重要
在 Meta 的 Llama 3 依然保留特定商業使用者限制的情況下,Mistral 3 頂著 675B 的體量直接掏出純正的 Apache 2.0 許可證,對企業和開發者來說是一顆定心丸。這意味著你可以真正自由地拿它微調、商業化,不必擔心被許可證協議卡脖子。
我們認為 Ministral 3 的九個小模型甚至比大模型更值得一試。很多企業其實不需要殺雞用牛刀的大模型,一個能在單卡甚至離線筆記本上跑、又自帶視覺和推理能力的 8B 或 14B 模型,微調之後的實用價效比和響應速度遠超昂貴閉源 API。如果你正在尋找可以安全部署在私有環境的多模態模型,現在就可以去下載開跑了。
來源 (3)
- mistral.ai(在新分頁開啟)原文mistral.ai
- techcrunch.com(在新分頁開啟)報導techcrunch.com
- blogs.nvidia.com(在新分頁開啟)報導blogs.nvidia.com