高通押注端侧生成式 AI：新一代旗舰芯片 10 月登场，明年进高端手机

把 ChatGPT 塞进手机这事，大多数人现在的用法依然是打开浏览器，或者点开一个要联网的 App。哪怕你只是想改张图或者润色两句短信，数据也得先往远处的机房跑一趟。

高通打算打破这个规矩。8 月 25 日，CNET 报道称，高通正在把生成式 AI 直接做进下一代旗舰芯片里。按计划，高通将在 10 月底夏威夷举办的年度峰会上正式公布这些方案，搭载这套芯片的高端安卓机明年就会上市。

算力在本地，省钱还不用等网

高通产品管理高级副总裁 Ziad Asghar 把手机端侧 AI 称为「圣杯」。他的逻辑很直接：手机知道你的一切习惯，包括行车路线、搜过的餐馆和刚拍的照片。端侧 AI 能直接拿到这些本地数据，生成的结果会比云端模型千篇一律的回答贴切得多。

隐私和速度也是显而易见的好处。查询都在本地跑，数据不需要传去远程服务器，在飞机上开启飞行模式或者没信号的地方照样能干活。

但这事背后更大的推手其实是算力成本。今年 4 月有估算称，OpenAI 每天光是维持旧版 GPT-3 运行 ChatGPT 就要花掉大约 70 万美元，更复杂的 GPT-4 规模化运营成本只会更高。端侧方案则是让用户手机里的芯片去承担这些运算。Techsponential 分析师 Avi Greengart 指出，在手机上跑 AI 实际上是免费的，因为买手机时就已经把算力钱付过了。

今年 2 月的巴塞罗那 MWC 上，高通就拿搭载骁龙 8 Gen 2 的安卓手机现场跑过 Stable Diffusion 图像生成模型。Asghar 透露，高通实验室目前已经能让手机芯片跑动 70 亿参数的模型，虽然远低于 GPT-3 的 1750 亿参数，但应对单人手机场景已经够用。旗舰芯片未来甚至可能支撑 100 亿以上参数的模型，而中低端芯片则会做阶梯式的降级适配。

为了兼顾续航，这些模型主要放在高通骁龙芯片的 Hexagon 处理器和 NPU 上运行。Asghar 提到，MWC 上演示了一整天，演示机电池没被抽干，机身摸起来甚至都不发烫。

从动嘴改图到虚拟助手

端侧生成式 AI 落地后能干什么？高通给出的构想不止是修图。你可以动动嘴让它把自拍照的背景换成威尼斯运河，也能让多个模型像流水线一样串联工作。

比如语音识别先把你的话转成文字，传给图像模型，再结合 Meta 之前开源的 Llama 2 等第三方大语言模型，驱动虚拟人脸做出逼真的嘴型并用语音念出来。这时候你面对的就不再是一个文本框，而是一个能实时对话的虚拟助手。

高通还不打算只把这套能力局限在手机上。10 月底的峰会上，他们还会公布面向 PC 和汽车座舱的方案。在汽车里，它能模仿经典美剧《霹雳游侠》里的智能车伙伴基特；在办公时，它能在视频会议里自动生成虚拟背景，替你做会议纪要并整理成 PPT。

当然，软件生态怎么跟进依然是未知数。Recon Analytics 分析师 Roger Entner 认为，在开发者真正把这些能力做进第三方 App 之前，它最先解决的还是修补瑕疵照片、生成社交滤镜和优化输入法自动纠错这些日常痛点。

为什么重要

把百亿参数模型搬上手机，看起来是一场对云端大模型垄断的突围。对用户来说，这意味着你终于不需要为每一次简单的润色或修图承担断网失联的风险，也不用把自己的私人相册和定位拱手打包传给大公司的服务器。如果在飞机上或者地下车库里就能流畅用上 AI 助手，这种体验的提升是实打实的。

对手机芯片和终端厂商而言，高通这一步走得相当敏锐。过去几年手机芯片的常规性能早已严重过剩，光跑分很难打动消费者换机；把大模型装进端侧，给明年售价昂贵的旗舰机找到了最现成的卖点。同时，它也对老对手苹果构成了现实压力，苹果虽然在输入法里换上了 Transformer 架构并传出在内测「Apple GPT」，但高通借着联手 Meta 的开源生态抢先定下了端侧落地的基调。

不过我们认为，端侧 AI 到底值不值得立刻买单，关键还得看第三方开发者的跟进意愿。70 亿参数虽然能跑，但比起云端超大模型，它的推理深度和准确率肯定有所缩水；如果只是用来优化相册滤镜或生成两页汇报摘要，普通人感知到的价值可能会大打折扣。手机散热和电池能否长期扛住高负荷推理，也只有等明年第一批量产机出炉后才能见分晓。