Mistral 发布 Mistral 3:675B 旗舰与端侧小模型全线 Apache 2.0 开源
Mistral AI 正式推出新一代 Mistral 3 模型家族,且全线采用宽松的 Apache 2.0 许可证开源。新系列包括总参数 675B(激活 41B)的旗舰 MoE 模型 Mistral Large 3,以及覆盖 3B、8B、14B 的端侧模型 Ministral 3。全系均原生支持图像理解与多语言对话,还针对英伟达硬件进行了低精度推理深度优化。

Mistral 3 是一套从端侧小模型到超大旗舰 MoE 全面覆盖的开源多模态模型家族,最关键的是,这次全系模型全部采用无商业限制的 Apache 2.0 许可证开源,权重直接开放下载。
全家桶里最受关注的是旗舰 Mistral Large 3。它是一个总参数量 675B、每次计算激活 41B 的稀疏混合专家(MoE)模型,支持 256K 超长上下文,原生具备图像理解和 40 多种语言的对话能力。在 LMArena 榜单上,它的开源非推理模型排名冲到了第二,开源总榜排第六。
对于想在本地或边缘设备上跑本地模型的开发者,Mistral 这次拿出了 Ministral 3 系列。它包含 3B、8B 和 14B 三种尺寸,每种尺寸都给齐了 Base、Instruct 和 Reasoning(推理)三种版本,一共 9 个模型,全系都自带视觉理解能力。根据官方给出的测试,14B 的推理版在 AIME 2025 数学竞赛测试上拿到了 85% 的成绩。
硬件门槛和怎么跑起来
大模型和小模型对硬件的要求差别很大,你可以根据手头的卡来挑。
Mistral Large 3 依靠英伟达、Red Hat 和 vLLM 的优化,放出了 NVFP4 低精度量化检查点。单台 8 张 A100 或 8 张 H100 的节点,配合 vLLM 就能直接跑起来;如果是在英伟达 GB200 NVL72 系统上,官方称其推理性能比上一代 H200 提升了 10 倍。
如果你手头只有消费级显卡或者笔记本,直接看 Ministral 3 就行。这 9 个小模型全部支持单卡部署,甚至能在搭载 RTX 的笔记本、英伟达 Jetson 边缘计算板和 DGX Spark 上离线运行。
目前这套模型已经全面上线。代码和权重可以直接去 Hugging Face 下载,本地玩家可以通过 Ollama 和 Llama.cpp 一键拉取运行,云端也已经接入了 Mistral AI Studio、OpenRouter、Fireworks、Unsloth AI、Together AI 以及 Azure 和 AWS。
为什么重要
在 Meta 的 Llama 3 依然保留特定商业用户限制的情况下,Mistral 3 顶着 675B 的体量直接掏出纯正的 Apache 2.0 许可证,对企业和开发者来说是一颗定心丸。这意味着你可以真正自由地拿它微调、商业化,不必担心被许可证协议卡脖子。
我们认为 Ministral 3 的九个小模型甚至比大模型更值得一试。很多企业其实不需要杀鸡用牛刀的大模型,一个能在单卡甚至离线笔记本上跑、又自带视觉和推理能力的 8B 或 14B 模型,微调之后的实用性价比和响应速度远超昂贵闭源 API。如果你正在寻找可以安全部署在私有环境的多模态模型,现在就可以去下载开跑了。
来源 (3)
- mistral.ai(在新标签页打开)原文mistral.ai
- techcrunch.com(在新标签页打开)报道techcrunch.com
- blogs.nvidia.com(在新标签页打开)报道blogs.nvidia.com