Mistral 推出首款推理模型 Magistral:开源 24B 小模型,支持多语言思考
Mistral AI 发布首个推理模型 Magistral。新模型分两个版本:开源且商用的 24B 参数 Magistral Small,以及面向企业的 Magistral Medium。它支持用中文等多种语言原生思考并提供透明推理链,在 Le Chat 中还提供提速 10 倍的 Flash Answers 模式。
Magistral 是 Mistral AI 推出的首款推理模型家族,专为需要多步骤推演、透明思考过程的任务打造。这次他们一共带来两个版本:一个是完全开源可商用的 24B 参数小模型 Magistral Small,另一个是能力更强、面向企业端的 Magistral Medium。
官方同步放出了权重和相关技术论文,详细拆解了他们的训练架构与强化学习算法。
它能做什么与实际表现
传统的思维链模型往往有个毛病:虽然能解题,但思考过程像个黑盒,或者一换成非英语就容易逻辑混乱。Magistral 主打的就是透明可追溯的推理链,而且支持原生多语言思考。
无论是用法语、西班牙语、德语,还是阿拉伯语、俄语和简体中文,它都能在思考阶段直接用对应语言整理步骤,而不是全在后台翻成英语再硬译回来。这在做跨国合规审核、本地化法务检索或者财务预测时非常管用。
从基准测试来看,这套模型的数学推演水平相当扎实。在数学竞赛基准 AIME2024 测试中,企业版 Magistral Medium 拿下了 73.6% 的成绩,配合 64 次多数投票后准确率能冲到 90%。
即便只有 24B 参数的开源版 Magistral Small,单次得分也达到了 70.7%,64 次投票准确率为 83.3%。对于一个中等体量的开源模型来说,这个逻辑推理能力已经非常能打。
官方还演示了它的物理模拟与代码生成能力,比如单次提示直接模拟带有重力、摩擦和碰撞效果的物理场景,或者在后端架构设计中做多步骤的工具调用与 API 编排。
怎么用以及去哪里下载
如果你是开发者,想把模型拉到本地或私有服务器上部署,Magistral Small 是最直接的选择。它采用 Apache 2.0 许可证,不仅开放权重,而且允许自由商用。
你现在就可以在 Hugging Face 上搜索 mistralai/Magistral-Small-2506 下载模型权重。24B 的参数规模在当前的硬件环境下部署门槛适中,适合作为私有化推理智能体的底座。
如果你不想自己折腾部署,可以直接在 Mistral 的官方平台体验 Magistral Medium。它目前在网页端 Le Chat 开放预览,支持新的 Think 思考模式。
同时在 Le Chat 中开启 Flash Answers 功能后,官方称其推理生成速度比大多数同类竞品快出 10 倍,能大幅缓解推理模型生成慢的等待痛点。
企业用户则可以通过 La Plateforme 调用 API,或者在 Amazon SageMaker 上直接接入,官方表示随后还会登陆 IBM WatsonX、Azure AI 以及 Google Cloud Marketplace。
为什么重要
对于广大开发者和中小企业来说,Magistral Small 填补了中等体量、商用友好型推理模型的一个关键空白。之前大家想在私有环境跑强推理任务,往往受限于顶级模型的闭源协议,或者小模型羸弱的逻辑推演能力。24B 的体量配上 Apache 2.0 协议,意味着你可以放心地把它嵌进业务流里做合规审计和代码生成。
我们认为,Mistral 这一步走得相当务实。他们没有在千亿参数的军备竞赛里硬卷,而是把推理能力塞进更适合落地的中端尺寸,并把多语言思考作为差异化卖点。对于需要处理非英语业务、又看重推理可解释性的团队,这款开源小模型非常值得第一时间拉下来做本地评测。
来源 (1)
- mistral.ai(在新标签页打开)原文mistral.ai