跳到正文
IFAI

大模型

微软开放 Phi-3 轻量模型系列:同步预览 42 亿参数视觉版

首次发布 传播指数 37

在首次公布近一个月后,微软正式向开发者开放 Phi-3 轻量模型家族,涵盖 mini、small 和 medium 三种尺寸,其中 mini 已上线 Azure AI。微软还预览了 42 亿参数的多模态版本 Phi-3-vision,支持图表与图像推理,主打端侧低成本部署。

微软正式向开发者放出的 Phi-3,是一套专为端侧和本地设备打造的轻量模型家族。它的目标很直接:用极小的参数体积和更低推理成本,提供接近大语言模型的逻辑推理能力。

这不是微软第一次做小模型。从最初的 Phi-1,到后来的 Phi-1.5 和 Phi-2,Phi-3 已经是第四代迭代产品。微软表示,这一代小模型在综合表现上可以媲美 OpenAI 的 GPT-3.5,但资源消耗要轻便得多。

三种尺寸与 42 亿参数视觉版

针对不同的设备算力,Phi-3 这次一共提供了三种文本尺寸供开发者选择。

最轻量的 Phi-3-mini 拥有 38 亿参数,专为轻量计算环境优化,目前已经直接上线 Azure AI 供开发者调用。

中间档位是 70 亿参数的 Phi-3-small,兼顾了性能与体积;如果设备算力更充裕,还有 140 亿参数的 Phi-3-medium 可以选择。开发者可以把它们直接搬进笔记本电脑、手机甚至可穿戴设备里本地跑起来。

除了文本模型,微软这次还拿出了一个叫做 Phi-3-vision 的多模态版本。它的参数量为 42 亿,专门补齐了端侧视觉理解的能力。

这个视觉版支持通用图像推理,尤其针对图表、数据图和表格做了定向优化。你可以向它输入一张包含复杂走势的数据图,让它解读其中的趋势,或者直接就图片内容发起开放式提问。

怎么用以及眼下的限制

目前 Phi-3-mini 已经在 Azure AI 提供服务,开发者可以通过平台接口直接集成,small 和 medium 也已向开发者开放。

不过需要留意的是,42 亿参数的 Phi-3-vision 目前只处于预览阶段。微软还没有公开它的具体上线时间和下载节点,普通开发者想要直接用上多模态版本还需要再等等。

在小模型赛道上,它面对的竞争对手不少。Google 刚刚发布了 30 亿参数的轻量多模态模型 PaliGemma,市面上也还有 Gemma 2 以及 Hugging Face 的 Zephyr 等同类选择。相较之下,Phi-3-vision 的参数量略大一点,但在图表和结构化图文解析上的针对性更明确。

为什么重要

对于想做本地端侧应用、AI PC 软件或者移动端离线助手的开发者来说,Phi-3 系列非常值得现在就拿去跑跑看。你不需要昂贵的集群显卡,在一台轻薄本甚至移动设备上就能获得接近上一代主流大模型的效果,极大压低了推理成本。

随着端侧 AI 竞争升温,各大厂商都在拼命把模型往小了做。微软这次把文本模型扩充到全尺寸,并补上视觉短板,说明小模型已经不再是玩具,而是即将走向设备端标配生产力工具的硬核基础。

来源 (1)

  1. [1]
    venturebeat.com(在新标签页打开)原文venturebeat.com

话题追踪Microsoft Phi-3 模型系列

这个话题的历次新闻,最新的在上面。

  1. 微软开放 Phi-3 轻量模型系列:同步预览 42 亿参数视觉版本条
  2. 微软发布 Phi-3 Mini:38 亿参数,号称比肩 GPT-3.5

每日 AI 内容精选