高通演示手机端跑 Stable Diffusion:骁龙 8 Gen 2 硬件加速,15 秒出图
高通展示在智能手机上本地运行 Stable Diffusion 1.5,搭载骁龙 8 Gen 2 芯片,在 15 秒内生成一张 512×512 像素图像,创下手机本地运行速度纪录。相比依赖云端,本地运行无需联网且更有利于隐私,不过该优化目前仅为技术演示,尚未公开发布。

平时在手机上用 AI 画一张图,大部分应用其实只是把你的提示词发到云端服务器,排队算好再传回手机。
高通刚刚展示了一段新演示,直接把整套文生图模型塞进了手机芯片里,而且完全不靠联网。
在演示中,高通使用了一台搭载骁龙 8 Gen 2 旗舰芯片的智能手机,在本地完整运行了 Stable Diffusion 1.5 模型。生成一张 512 x 512 像素的图片,整个过程耗时不到 15 秒。
15 秒出图,甩开以往方案几十倍
Stable Diffusion 这类庞大的生成式模型对计算资源要求极高,即便放在配置不错的笔记本电脑上,跑一张图也往往需要耗费几分钟。
高通宣称这是智能手机上有史以来最快的部署速度,并称这是 Stable Diffusion 首次在 Android 设备上本地运行。
不过,严格来说这并不是 Android 平台的第一次。此前开发者 Ivon Huang 曾在配备骁龙 865 芯片和 8GB 内存的索尼 Xperia 5 II 上成功跑过该模型,但当时生成一张同样尺寸的图片整整用了一个小时。
高通这次能压到 15 秒内,主要得益于去年 11 月推出的骁龙 8 Gen 2 芯片,其内部集成了专为 AI 设计的 Hexagon 处理器,同时高通工程师还在软件底层进行了全套专门优化。
苹果做过类似尝试,但高通这次明显更快
手机端本地跑大模型的比拼其实早有苗头。去年 12 月,苹果也曾针对自家机器学习框架 Core ML 推出了运行 Stable Diffusion 的优化方案。
外媒在测试中发现,使用 2021 年发布的 iPhone 13 搭配第三方应用 Draw Things 运行 Core ML 加速,生成一张 512 x 512 像素的图片大约需要 60 秒。
单纯对比速度,高通确实把用时缩短到了四分之一,不过这里的对比也存在客观差异:高通使用的是更新的旗舰硬件和尚未公开发布的内部优化包,而苹果设备测试使用的是老款机型和公开应用。
但不管怎么说,从一小时缩短到一分钟,再进一步压进 15 秒,端侧大模型的实用化进度比预期快得多。
为什么重要
我们认为,这项演示最大的价值在于证明了手机端侧算力完全有能力接管生成式 AI,而不再必须给云端大厂交服务器过路费。
对普通用户和开发者来说,本地运行意味着三件事:不用联网也能出图、免去了高昂的云端 API 订阅费用,而且你的输入词和生成内容永远留在手机本地,不存在隐私泄露给第三方的顾虑。
对行业而言,这一步会直接把端侧 AI 算力的竞争推向白热化。它会逼着联发科、苹果等芯片厂商在下一代处理器中堆叠更强的专用 NPU 单元,同时也会改变移动端应用的开发范式,更多小型工具开发者不用再为服务器账单发愁。
高通的做法非常聪明,它选择业内最通用的开源标杆模型 Stable Diffusion 来秀肌肉,直接把芯片的硬件性能转化成大众看得懂的秒数指标。
隐患在于,目前这还只是一场技术演示,高通并没有把这套底层优化包开放给普通消费者或第三方开发者直接使用。在散热、电池功耗以及长时间连续出图的表现上,高通还需要向外界证明这种高强度负载在日常手机上是真正可用的。
来源 (1)
- theverge.com(在新标签页打开)原文theverge.com