跳到正文
IFAI

大模型

Mistral 更新 Magistral 1.2:支援影像分析,小模型能塞進 MacBook

首次發布 傳播指數 38

Mistral 推出 Magistral Small 1.2 和 Medium 1.2 推理模型。新版本加入了視覺編碼器,可以直接分析圖片;其中 24B 引數的 Small 經過量化後,單張 RTX 4090 或 32GB 記憶體的 MacBook 就能本地跑起來。

Mistral 更新 Magistral 1.2:支援影像分析,小模型能塞進 MacBook
圖:venturebeat.com

想在自己的筆記本上跑一個既能推理又能看圖的 AI 模型,以前要麼得接受引數太小智商捉急,要麼得掏錢租雲端顯示卡。

法國 AI 公司 Mistral 剛剛打破了這個尷尬。它們低調更新了自家的推理模型家族,放出 Magistral Small 1.2 和 Magistral Medium 1.2。

官方在 X 上只輕描淡寫地稱這是個「次要」版本更新。但細看引數和功能,這次升級其實一點都不小:兩個模型都塞進了一個視覺編碼器,正式具備了分析影像的能力,基準測試成績也跟著上了一截。

24B 推理模型,塞進 MacBook

這次最吸引開發者的,莫過於擁有 240 億引數的 Magistral Small 1.2。

Hugging Face 機器學習增長負責人 Ahsen Khaliq 指出,這個 24B 模型在量化之後,可以穩穩塞進一張單卡 Nvidia RTX 4090,或者一臺 32GB 記憶體的蘋果 MacBook 裡離線執行。

這意味著你哪怕拔了網線、坐在飛機上,手頭也有一臺能讀圖、能做多步邏輯推理的本地工作站。

更大的 Magistral Medium 1.2 表現同樣搶眼。Khaliq 已經把他的網頁端 vibe coding 工具 AnyCoder 的預設底層模型直接切到了它上面。

普通使用者現在可以直接去 Mistral 的聊天網頁 Le Chat 裡免費體驗。開發者則能從 Hugging Face 下載模型權重,或者呼叫 API。

API 呼叫的識別符號分別是 magistral-small-2509 和 magistral-medium-2509。價格方面,Small 的輸入和輸出費用分別為每百萬 token 0.5 美元和 1.5 美元,Medium 則為輸入 2 美元、輸出 5 美元。

跟市面上的其他模型比,Small 的價格比很多中檔模型(如 Anthropic 的 Sonnet)便宜不少,雖然比 DeepSeek 純聊天模式的基礎輸入貴一些,但依然非常有競爭力。Medium 也明顯比各大廠商的頂配超大模型便宜得多。

為什麼重要

我們認為,Mistral 這次最聰明的地方,是把「多模態視覺」和「慢思考推理」打包做成了一個可以本地部署的小尺寸版本。

對於獨立開發者和注重資料隱私的企業來說,這個模型現在就值得上手試。你可以拿它去批次解析帶圖的報表、給網站內容自動寫精準的圖片描述,或者做帶複雜業務邏輯的程式碼審查,全程不用擔心內部敏感資料上傳到第三方伺服器。

如果放在整個行業競爭來看,自打去年 OpenAI 推出 o 系列、今年 1 月 DeepSeek R1 爆火之後,大家都在拼命死磕大引數的推理模型。

但云端推理的算力成本極高,而且延遲天生偏長。Mistral 走了一條差異化路線:它用 Apache 2.0 開源的 Small 版本守住開源社群和端側部署的基本盤,用閉源的 Medium 去賺企業客戶的商業錢。

隱患也不是沒有。把 24B 模型量化到能在 32GB 筆記本上跑,勢必會在極端複雜的邏輯推理或細粒度影像識別上犧牲一部分精度。它是不是真的能在日常長鏈路任務中扛住高要求,還需要開發者們在真實場景中檢驗。

但無論如何,能裝在單機上的「能看圖的推理模型」,已經實打實把本地端側 AI 的門檻往前推了一大步。

來源 (1)

  1. [1]
    venturebeat.com(在新分頁開啟)原文venturebeat.com

每日 AI 內容精選