跳到正文
IFAI

大模型

Mistral 推出首款推理模型 Magistral:開源 24B 小模型,支援多語言思考

首次發布 傳播指數 51

Mistral AI 釋出首個推理模型 Magistral。新模型分兩個版本:開源且商用的 24B 引數 Magistral Small,以及面向企業的 Magistral Medium。它支援用中文等多種語言原生思考並提供透明推理鏈,在 Le Chat 中還提供提速 10 倍的 Flash Answers 模式。

圖:mistral.ai

Magistral 是 Mistral AI 推出的首款推理模型家族,專為需要多步驟推演、透明思考過程的任務打造。這次他們一共帶來兩個版本:一個是完全開源可商用的 24B 引數小模型 Magistral Small,另一個是能力更強、面向企業端的 Magistral Medium。

官方同步放出了權重和相關技術論文,詳細拆解了他們的訓練架構與強化學習演算法。

它能做什麼與實際表現

傳統的思維鏈模型往往有個毛病:雖然能解題,但思考過程像個黑盒,或者一換成非英語就容易邏輯混亂。Magistral 主打的就是透明可追溯的推理鏈,而且支援原生多語言思考。

無論是用法語、西班牙語、德語,還是阿拉伯語、俄語和簡體中文,它都能在思考階段直接用對應語言整理步驟,而不是全在後臺翻成英語再硬譯回來。這在做跨國合規稽核、本地化法務檢索或者財務預測時非常管用。

從基準測試來看,這套模型的數學推演水平相當紮實。在數學競賽基準 AIME2024 測試中,企業版 Magistral Medium 拿下了 73.6% 的成績,配合 64 次多數投票後準確率能衝到 90%。

即便只有 24B 引數的開源版 Magistral Small,單次得分也達到了 70.7%,64 次投票準確率為 83.3%。對於一箇中等體量的開源模型來說,這個邏輯推理能力已經非常能打。

官方還演示了它的物理模擬與程式碼生成能力,比如單次提示直接模擬帶有重力、摩擦和碰撞效果的物理場景,或者在後端架構設計中做多步驟的工具呼叫與 API 編排。

怎麼用以及去哪裡下載

如果你是開發者,想把模型拉到本地或私有伺服器上部署,Magistral Small 是最直接的選擇。它採用 Apache 2.0 許可證,不僅開放權重,而且允許自由商用。

你現在就可以在 Hugging Face 上搜索 mistralai/Magistral-Small-2506 下載模型權重。24B 的引數規模在當前的硬體環境下部署門檻適中,適合作為私有化推理智慧體的底座。

如果你不想自己折騰部署,可以直接在 Mistral 的官方平臺體驗 Magistral Medium。它目前在網頁端 Le Chat 開放預覽,支援新的 Think 思考模式。

同時在 Le Chat 中開啟 Flash Answers 功能後,官方稱其推理生成速度比大多數同類競品快出 10 倍,能大幅緩解推理模型生成慢的等待痛點。

企業使用者則可以通過 La Plateforme 呼叫 API,或者在 Amazon SageMaker 上直接接入,官方表示隨後還會登陸 IBM WatsonX、Azure AI 以及 Google Cloud Marketplace。

為什麼重要

對於廣大開發者和中小企業來說,Magistral Small 填補了中等體量、商用友好型推理模型的一個關鍵空白。之前大家想在私有環境跑強推理任務,往往受限於頂級模型的閉源協議,或者小模型羸弱的邏輯推演能力。24B 的體量配上 Apache 2.0 協議,意味著你可以放心地把它嵌進業務流裡做合規審計和程式碼生成。

我們認為,Mistral 這一步走得相當務實。他們沒有在千億引數的軍備競賽裡硬卷,而是把推理能力塞進更適合落地的中端尺寸,並把多語言思考作為差異化賣點。對於需要處理非英語業務、又看重推理可解釋性的團隊,這款開源小模型非常值得第一時間拉下來做本地評測。

來源 (1)

  1. [1]
    mistral.ai(在新分頁開啟)原文mistral.ai

每日 AI 內容精選