跳到正文
IFAI

大模型

Mistral 更新 Magistral 1.2:支持图像分析,小模型能塞进 MacBook

首次发布 传播指数 38

Mistral 推出 Magistral Small 1.2 和 Medium 1.2 推理模型。新版本加入了视觉编码器,可以直接分析图片;其中 24B 参数的 Small 经过量化后,单张 RTX 4090 或 32GB 内存的 MacBook 就能本地跑起来。

Mistral 更新 Magistral 1.2:支持图像分析,小模型能塞进 MacBook
图:venturebeat.com

想在自己的笔记本上跑一个既能推理又能看图的 AI 模型,以前要么得接受参数太小智商捉急,要么得掏钱租云端显卡。

法国 AI 公司 Mistral 刚刚打破了这个尴尬。它们低调更新了自家的推理模型家族,放出 Magistral Small 1.2 和 Magistral Medium 1.2。

官方在 X 上只轻描淡写地称这是个「次要」版本更新。但细看参数和功能,这次升级其实一点都不小:两个模型都塞进了一个视觉编码器,正式具备了分析图像的能力,基准测试成绩也跟着上了一截。

24B 推理模型,塞进 MacBook

这次最吸引开发者的,莫过于拥有 240 亿参数的 Magistral Small 1.2。

Hugging Face 机器学习增长负责人 Ahsen Khaliq 指出,这个 24B 模型在量化之后,可以稳稳塞进一张单卡 Nvidia RTX 4090,或者一台 32GB 内存的苹果 MacBook 里离线运行。

这意味着你哪怕拔了网线、坐在飞机上,手头也有一台能读图、能做多步逻辑推理的本地工作站。

更大的 Magistral Medium 1.2 表现同样抢眼。Khaliq 已经把他的网页端 vibe coding 工具 AnyCoder 的默认底层模型直接切到了它上面。

普通用户现在可以直接去 Mistral 的聊天网页 Le Chat 里免费体验。开发者则能从 Hugging Face 下载模型权重,或者调用 API。

API 调用的标识符分别是 magistral-small-2509 和 magistral-medium-2509。价格方面,Small 的输入和输出费用分别为每百万 token 0.5 美元和 1.5 美元,Medium 则为输入 2 美元、输出 5 美元。

跟市面上的其他模型比,Small 的价格比很多中档模型(如 Anthropic 的 Sonnet)便宜不少,虽然比 DeepSeek 纯聊天模式的基础输入贵一些,但依然非常有竞争力。Medium 也明显比各大厂商的顶配超大模型便宜得多。

为什么重要

我们认为,Mistral 这次最聪明的地方,是把「多模态视觉」和「慢思考推理」打包做成了一个可以本地部署的小尺寸版本。

对于独立开发者和注重数据隐私的企业来说,这个模型现在就值得上手试。你可以拿它去批量解析带图的报表、给网站内容自动写精准的图片描述,或者做带复杂业务逻辑的代码审查,全程不用担心内部敏感数据上传到第三方服务器。

如果放在整个行业竞争来看,自打去年 OpenAI 推出 o 系列、今年 1 月 DeepSeek R1 爆火之后,大家都在拼命死磕大参数的推理模型。

但云端推理的算力成本极高,而且延迟天生偏长。Mistral 走了一条差异化路线:它用 Apache 2.0 开源的 Small 版本守住开源社区和端侧部署的基本盘,用闭源的 Medium 去赚企业客户的商业钱。

隐患也不是没有。把 24B 模型量化到能在 32GB 笔记本上跑,势必会在极端复杂的逻辑推理或细粒度图像识别上牺牲一部分精度。它是不是真的能在日常长链路任务中扛住高要求,还需要开发者们在真实场景中检验。

但无论如何,能装在单机上的「能看图的推理模型」,已经实打实把本地端侧 AI 的门槛往前推了一大步。

来源 (1)

  1. [1]
    venturebeat.com(在新标签页打开)原文venturebeat.com

每日 AI 内容精选