Mistral 开源 Mistral Small 4:推理与多模态合一,仅 6B 激活参数
Mistral 发布开源模型 Mistral Small 4。它采用 MoE 架构,总参数 119B 且每 token 仅激活 6B,首次把推理、多模态与智能体编程集成到单一模型,支持 256k 上下文与可调节推理力度。相比前代延迟降低 40%,且在同等精度下输出更简短,大幅节约推理成本。

Mistral Small 4 是一个把深度推理、图像理解与智能体编程融为一体的开源大模型。以往你在 Mistral 家要在负责推理的 Magistral、负责多模态的 Pixtral 和写代码的 Devstral 之间来回切换,现在一个模型就能全部接管。
该模型采用 Apache 2.0 协议开源,支持 256k 超长上下文,不管是日常问答、文档与图像分析,还是复杂的跨文件代码重构都能直接搞定。
动态推理与 MoE 架构
Mistral Small 4 能兼顾速度和能力的秘密,在于它采用了精细的 MoE(混合专家)架构。整个模型总参数量为 119B,内部包含 128 个专家网络,在处理每个 token 时仅激活其中的 4 个专家。
这意味着它运行时的激活参数只有 6B,算上输入输出嵌入层也只有 8B。这种极低激活参数的设计,让它既拥有大模型的知识储备,又保有了小模型的响应速度。
更实用的是它加入了可调节的 reasoning_effort 参数。不需要复杂推理的日常杂务,你可以设为 none,模型会像 Mistral Small 3.2 一样飞速输出;遇到复杂的数学、逻辑或代码问题,切换到 high,它就会开启深度思考模式,展开严密的逐步推导。
在原生多模态支持下,你既能给它喂长篇技术文档,也能直接上传图表做多步骤视觉分析。
硬件门槛与实测表现
相比前代 Mistral Small 3,Small 4 在延迟优化模式下端到端完成时间缩短了 40%,而在吞吐优化模式下的每秒请求数提升了 3 倍。
除了速度快,它在推理效率上最明显的优势是「不废话」。官方测试显示,在同等甚至超越 GPT-OSS 120B 的准确率下,它的输出长度明显更短。在 AA LCR 基准上,它仅用 1.6K 字符就拿下了 0.72 分,而达到相似表现的 Qwen 模型输出长度往往在 5.8K 到 6.1K 字符,足足是它的 3.5 到 4 倍。在 LiveCodeBench 编程测试中,它也以少 20% 的输出字符击败了 GPT-OSS 120B。更简短的有效输出,在实际部署中直接意味着更低的 token 成本和更快的响应体验。
不过作为总参数 119B 的 MoE 模型,它对私有化部署的硬件依然有硬门槛。本地或私有云运行最低需要 4 块 NVIDIA HGX H100、2 块 HGX H200 或 1 块 DGX B200;官方推荐的最佳生产配置则是 4 块 H100、4 块 H200 或 2 块 B200。
目前权重已经上传至 Hugging Face,社区推理框架 vLLM、llama.cpp、SGLang 和 Transformers 均已完成适配。想直接调用的开发者可以在 Mistral API、AI Studio 体验,或者在 build.nvidia.com 免费测试原型,企业也能直接拉取 NVIDIA NIM 镜像部署。
为什么重要
对企业和开发者来说,Mistral Small 4 最大的价值是大幅降低了复杂工作流的系统复杂度。以前搭建一个既要读图、又要写代码、还要深度推理的智能体,往往要在三四个不同特长的小模型之间做路由分发;现在单一模型就能全包,还允许按需动态调整推理深度。
我们认为,Mistral 这种把重点放在「每 token 效率」而非盲目拉长思考过程的做法相当务实。如果你的业务每天有海量调用,且拥有企业级 GPU 集群或依赖 API,Small 4 凭借极低的激活参数和短文本高精度的特性,能显著帮你压缩算力账单。
来源 (1)
- mistral.ai(在新标签页打开)原文mistral.ai