跳到正文
IFAI

大模型

Mistral AI 釋出 Medium 3.1:多模態大升級,支援 4 卡私有化部署

首次發布 傳播指數 58

Mistral AI 推出多模態模型 Mistral Medium 3.1,提升了推理、程式設計及聯網檢索能力。新模型百萬輸入 token 僅需 0.40 美元,支援企業在 4 塊 GPU 上私有化部署,基準成績直追主流旗艦。

Mistral AI 釋出 Medium 3.1:多模態大升級,支援 4 卡私有化部署
圖:x.com

大模型捲到今天,大家看跑分早已有點麻木,真正讓人頭疼的往往是兩件事:賬單太貴,以及模型太大根本塞不進自家的機房。

歐洲 AI 獨角獸 Mistral AI 釋出了新一代模型 Mistral Medium 3.1。這家法國團隊這次拿出的殺手鐧不是無休止地堆引數,而是把重點放在了企業級落地最關心的兩件事上:極致的價效比,以及極低門檻的私有化部署。

4 張卡就能跑,成本砍掉近九成

對很多企業來說,用雲端 API 跑大模型就像開著水龍頭花錢,而自己搭叢集又動輒需要幾十張頂級算力卡。Mistral Medium 3.1 最亮眼的一個數字,就是它支援企業在本地或 VPC 環境下自託管,並且只需要 4 張 GPU 就能跑起來。

這意味著普通中小企業不需要組建昂貴的超算叢集,用常規的私有硬體就能把模型跑在內網。對於醫療、金融和法律這些對資料出境極其敏感的行業來說,這個部署門檻可以說非常友好。

如果你選擇直接呼叫官方 API,價格同樣壓得很低。輸入每百萬 token 只要 0.40 美元,輸出每百萬 token 2 美元。按照 Mistral 的說法,它的綜合運營成本比傳統超大模型足足低了 8 倍。

除了常規呼叫,新模型還支援全量微調和自定義後訓練,方便企業把內部專有資料和知識庫直接灌進去,做成高度定製的垂直模型。

原生看圖寫程式碼,補齊搜尋短板

效能方面,Mistral Medium 3.1 是一隻全能型的多模態模型。它原生支援文本和影像輸入,擅長處理程式設計、科學推理、長文件理解以及圖片分析等任務。

在程式碼支援上,它覆蓋了 80 多種程式語言以及幾十種自然語言,具備高階函式呼叫和構建複雜自動化智慧體的能力。官方測試資料顯示,它在長上下文和多模態基準測試中的得分,已經能夠對標甚至超越 Llama 4 Maverick、Claude Sonnet 3.7 以及 GPT-4o 等旗艦選手。

日常互動體驗也做了專門最佳化。很多模型經常因為系統提示詞的變動導致說話語氣忽冷忽熱,Mistral Medium 3.1 調整了對話一致性,無論有沒有載入系統設定或外部工具,都能維持連貫自然的語調。

針對查資料經常胡說八道的問題,模型還重寫了網頁檢索與資訊整合的演算法,在聯網搜尋時能給出更完整、上下文關聯度更高的答案。

為什麼重要

我們認為,Mistral 這一步走得相當清醒。在矽谷巨頭們不計成本爭奪最強模型王座的時候,Mistral 選擇了一條更務實的商業路線:用足以匹敵旗艦模型的效能,打出只有對方零頭的價格,並且把部署門檻降到普通機房都能接受的程度。

對開發者和企業架構師來說,現在非常值得去跑一遍測試。特別是那些想做長文件分析、內部程式碼助手,或者受制於合規要求必須本地部署團隊,4 張 GPU 跑起來的成本和維護難度,比以前動輒數十張卡的方案務實太多。

不過也有一些潛在隱患。雖然基準測試宣稱追平了甚至超越了主流閉源模型,但在極端複雜的長鏈條推理任務中,中等體量模型的魯棒性依然需要實際業務場景來驗證。

看起來,這場大模型競爭正在從單純的技術肌肉秀,全面轉向企業採購 ROI 的肉搏戰。Mistral Medium 3.1 的定價和輕量化部署,很可能會逼著其他模型廠商進一步調低 API 價格,加速高階 AI 從大廠玩具變成企業基礎設施。

來源 (2)

  1. [1]
    x.com(在新分頁開啟)原文x.com
  2. [2]

每日 AI 內容精選