跳到正文
IFAI

產業動態

高通釋出兩款驍龍 8 Elite 晶片:手機端側能跑 300 億引數大模型

首次發布 傳播指數 39

週二,Qualcomm 在驍龍峰會上釋出 Snapdragon 8 Elite Extreme Gen 6 和 Gen 6 平臺,支援在手機端側執行高達 300 億引數的 AI 模型。相比以往約 40 億引數的端側上限大幅躍升,主打智慧體協同與低延遲體驗,小米和摩托羅拉等廠商將在明年的旗艦機中採用。

現在手機上很多所謂的 AI 功能,說白了都是把你的請求悄悄發到雲端伺服器,等算完了再傳回來。網路稍微卡一下,那個轉圈的等待圖示能把人急死。

在週二的高通驍龍峰會上,高通拿出了兩款新旗艦晶片:驍龍 8 至尊版 Extreme Gen 6 和驍龍 8 至尊版 Gen 6。前一款專給最頂級的旗艦機用,後一款則會下放到價格更親民的機型裡。

高通 CEO 克里斯蒂亞諾·阿蒙在演講裡說,手機依然是大家日常生活的核心,但人機互動方式要變了。他的意思是,手機不會消失,而是要開始學著給各種智慧體打下手。

把 300 億引數模型直接塞進兜裡

這次最嚇人的提升在本地算力上。靠著全新架構的 Hexagon NPU,新晶片最高能在手機本地直接跑 300 億引數的 MoE 混合專家模型。

要知道,目前絕大多數手機的端側算力上限也就是 40 億引數左右的小模型。從 4B 蹦到 30B,差不多等於把過去必須依賴雲端才能跑通的理解力,硬生生拽進了離線環境。

為了支撐這種常駐後臺的智慧體運作,高通把 Oryon CPU、Hexagon NPU 以及增強型感測中樞打包進了自家的 AI 引擎。他們還掏出了一個由 AI 驅動的全新 X105 5G 數據機,用來改善弱網下的連線表現。

拍照和音訊也蹭到了新架構的紅利。新晶片提升了相機對複雜畫面的深層理解能力,而頂配的 Extreme 晶片還帶了一項叫 AI Voice Bubble 的聲音氣泡技術,能在嘈雜環境下精準把你的聲音從背景噪音裡剝出來。

首批搭載新平臺的廠商名單很長,包括三星、小米、榮耀、一加、OPPO、vivo、紅魔、iQOO 和摩托羅拉。其中,摩托羅拉的 Signature 27 會成為首批吃上 8 至尊版 Extreme Gen 6 的機型之一。

為什麼重要

對普通使用者來說,端側能跑 30B 模型的意義非常直接:反應更快、沒有網路也能用,更重要的是資料不用上傳到別人的伺服器,隱私終於有保障了。如果你平時離不開語音助手或者需要手機自動幫你串聯多個應用辦事,下一代旗艦機的使用卡頓感大機率會大幅減少。

不過,現在值不值得為了這個畫大餅的功能換機,我們建議先別急著掏錢。把 300 億引數模型塞進寸土寸金的手機裡,散熱和電池續航永遠是最難啃的骨頭。哪怕高通宣稱做足了平行計算與功耗最佳化,實際跑起來會不會發熱降頻,還得等明年真機上手實測。

從行業來看,高通這一招非常聰明。它沒有去跟輝達搶雲端訓練卡的大生意,而是把自己死死焊在端側裝置的硬體入口上。從 Meta 的 Ray-Ban 智慧眼鏡、Snap Specs,到三星 Galaxy Watch 9,高通的晶片幾乎統治了主流可穿戴硬體。

我們認為,這次把端側模型上限直接拉昇到 30B,實際上是高通在給整個安卓陣營定規矩。聯發科和蘋果接下來必須在端側 NPU 上硬碰硬地跟進,手機行業只靠換換攝像頭引數卷配置的時代,看起來終於快要到頭了。

來源 (1)

  1. [1]
    thedeepview.com(在新分頁開啟)原文thedeepview.com

每日 AI 內容精選