Mistral 開源 Mistral Small 4：推理與多模態合一，僅 6B 啟用引數

Mistral Small 4 是一個把深度推理、影像理解與智慧體程式設計融為一體的開源大模型。以往你在 Mistral 家要在負責推理的 Magistral、負責多模態的 Pixtral 和寫程式碼的 Devstral 之間來回切換，現在一個模型就能全部接管。

該模型採用 Apache 2.0 協議開源，支援 256k 超長上下文，不管是日常問答、文件與影像分析，還是複雜的跨檔案程式碼重構都能直接搞定。

動態推理與 MoE 架構

Mistral Small 4 能兼顧速度和能力的秘密，在於它採用了精細的 MoE（混合專家）架構。整個模型總引數量為 119B，內部包含 128 個專家網路，在處理每個 token 時僅啟用其中的 4 個專家。

這意味著它執行時的啟用引數只有 6B，算上輸入輸出嵌入層也只有 8B。這種極低啟用引數的設計，讓它既擁有大模型的知識儲備，又保有了小模型的響應速度。

更實用的是它加入了可調節的 reasoning_effort 引數。不需要複雜推理的日常雜務，你可以設為 none，模型會像 Mistral Small 3.2 一樣飛速輸出；遇到複雜的數學、邏輯或程式碼問題，切換到 high，它就會開啟深度思考模式，展開嚴密的逐步推導。

在原生多模態支援下，你既能給它喂長篇技術文件，也能直接上傳圖表做多步驟視覺分析。

硬體門檻與實測表現

相比前代 Mistral Small 3，Small 4 在延遲最佳化模式下端到端完成時間縮短了 40%，而在吞吐最佳化模式下的每秒請求數提升了 3 倍。

除了速度快，它在推理效率上最明顯的優勢是「不廢話」。官方測試顯示，在同等甚至超越 GPT-OSS 120B 的準確率下，它的輸出長度明顯更短。在 AA LCR 基準上，它僅用 1.6K 字元就拿下了 0.72 分，而達到相似表現的 Qwen 模型輸出長度往往在 5.8K 到 6.1K 字元，足足是它的 3.5 到 4 倍。在 LiveCodeBench 程式設計測試中，它也以少 20% 的輸出字元擊敗了 GPT-OSS 120B。更簡短的有效輸出，在實際部署中直接意味著更低的 token 成本和更快的響應體驗。

不過作為總引數 119B 的 MoE 模型，它對私有化部署的硬體依然有硬門檻。本地或私有云執行最低需要 4 塊 NVIDIA HGX H100、2 塊 HGX H200 或 1 塊 DGX B200；官方推薦的最佳生產配置則是 4 塊 H100、4 塊 H200 或 2 塊 B200。

目前權重已經上傳至 Hugging Face，社群推理框架 vLLM、llama.cpp、SGLang 和 Transformers 均已完成適配。想直接呼叫的開發者可以在 Mistral API、AI Studio 體驗，或者在 build.nvidia.com 免費測試原型，企業也能直接拉取 NVIDIA NIM 映象部署。

為什麼重要

對企業和開發者來說，Mistral Small 4 最大的價值是大幅降低了複雜工作流的系統複雜度。以前搭建一個既要讀圖、又要寫程式碼、還要深度推理的智慧體，往往要在三四個不同特長的小模型之間做路由分發；現在單一模型就能全包，還允許按需動態調整推理深度。

我們認為，Mistral 這種把重點放在「每 token 效率」而非盲目拉長思考過程的做法相當務實。如果你的業務每天有海量呼叫，且擁有企業級 GPU 叢集或依賴 API，Small 4 憑藉極低的啟用引數和短文本高精度的特性，能顯著幫你壓縮算力賬單。