跳到正文
IFAI

大模型

微軟開放 Phi-3 輕量模型系列:同步預覽 42 億引數視覺版

首次發布 傳播指數 37

在首次公佈近一個月後,微軟正式向開發者開放 Phi-3 輕量模型家族,涵蓋 mini、small 和 medium 三種尺寸,其中 mini 已上線 Azure AI。微軟還預覽了 42 億引數的多模態版本 Phi-3-vision,支援圖表與影像推理,主打端側低成本部署。

微軟正式向開發者放出的 Phi-3,是一套專為端側和本地裝置打造的輕量模型家族。它的目標很直接:用極小的引數體積和更低推理成本,提供接近大語言模型的邏輯推理能力。

這不是微軟第一次做小模型。從最初的 Phi-1,到後來的 Phi-1.5 和 Phi-2,Phi-3 已經是第四代迭代產品。微軟表示,這一代小模型在綜合表現上可以媲美 OpenAI 的 GPT-3.5,但資源消耗要輕便得多。

三種尺寸與 42 億引數視覺版

針對不同的裝置算力,Phi-3 這次一共提供了三種文本尺寸供開發者選擇。

最輕量的 Phi-3-mini 擁有 38 億引數,專為輕量計算環境最佳化,目前已經直接上線 Azure AI 供開發者呼叫。

中間檔位是 70 億引數的 Phi-3-small,兼顧了效能與體積;如果裝置算力更充裕,還有 140 億引數的 Phi-3-medium 可以選擇。開發者可以把它們直接搬進筆記型電腦、手機甚至可穿戴裝置裡本地跑起來。

除了文本模型,微軟這次還拿出了一個叫做 Phi-3-vision 的多模態版本。它的引數量為 42 億,專門補齊了端側視覺理解的能力。

這個視覺版支援通用影像推理,尤其針對圖表、資料圖和表格做了定向最佳化。你可以向它輸入一張包含複雜走勢的資料圖,讓它解讀其中的趨勢,或者直接就圖片內容發起開放式提問。

怎麼用以及眼下的限制

目前 Phi-3-mini 已經在 Azure AI 提供服務,開發者可以通過平臺介面直接整合,small 和 medium 也已向開發者開放。

不過需要留意的是,42 億引數的 Phi-3-vision 目前只處於預覽階段。微軟還沒有公開它的具體上線時間和下載節點,普通開發者想要直接用上多模態版本還需要再等等。

在小模型賽道上,它面對的競爭對手不少。Google 剛剛釋出了 30 億引數的輕量多模態模型 PaliGemma,市面上也還有 Gemma 2 以及 Hugging Face 的 Zephyr 等同類選擇。相較之下,Phi-3-vision 的引數量略大一點,但在圖表和結構化圖文解析上的針對性更明確。

為什麼重要

對於想做本地端側應用、AI PC 軟體或者移動端離線助手的開發者來說,Phi-3 系列非常值得現在就拿去跑跑看。你不需要昂貴的叢集顯示卡,在一臺輕薄本甚至移動裝置上就能獲得接近上一代主流大模型的效果,極大壓低了推理成本。

隨著端側 AI 競爭升溫,各大廠商都在拼命把模型往小了做。微軟這次把文本模型擴充到全尺寸,並補上視覺短板,說明小模型已經不再是玩具,而是即將走向裝置端標配生產力工具的硬核基礎。

來源 (1)

  1. [1]
    venturebeat.com(在新分頁開啟)原文venturebeat.com

話題追蹤Microsoft Phi-3 模型系列

這個話題的歷次新聞,最新的在上面。

  1. 微軟開放 Phi-3 輕量模型系列:同步預覽 42 億引數視覺版本則
  2. 微軟釋出 Phi-3 Mini:38 億引數,號稱比肩 GPT-3.5

每日 AI 內容精選