高通演示手機端跑 Stable Diffusion:驍龍 8 Gen 2 硬體加速,15 秒出圖
高通展示在智慧手機上本地執行 Stable Diffusion 1.5,搭載驍龍 8 Gen 2 晶片,在 15 秒內生成一張 512×512 畫素影像,創下手機本地執行速度紀錄。相比依賴雲端,本地執行無需聯網且更有利於隱私,不過該最佳化目前僅為技術演示,尚未公開發布。

平時在手機上用 AI 畫一張圖,大部分應用其實只是把你的提示詞發到雲端伺服器,排隊算好再傳回手機。
高通剛剛展示了一段新演示,直接把整套文生圖模型塞進了手機晶片裡,而且完全不靠聯網。
在演示中,高通使用了一臺搭載驍龍 8 Gen 2 旗艦晶片的智慧手機,在本地完整運行了 Stable Diffusion 1.5 模型。生成一張 512 x 512 畫素的圖片,整個過程耗時不到 15 秒。
15 秒出圖,甩開以往方案几十倍
Stable Diffusion 這類龐大的生成式模型對計算資源要求極高,即便放在配置不錯的筆記型電腦上,跑一張圖也往往需要耗費幾分鐘。
高通宣稱這是智慧手機上有史以來最快的部署速度,並稱這是 Stable Diffusion 首次在 Android 裝置上本地執行。
不過,嚴格來說這並不是 Android 平臺的第一次。此前開發者 Ivon Huang 曾在配備驍龍 865 晶片和 8GB 記憶體的索尼 Xperia 5 II 上成功跑過該模型,但當時生成一張同樣尺寸的圖片整整用了一個小時。
高通這次能壓到 15 秒內,主要得益於去年 11 月推出的驍龍 8 Gen 2 晶片,其內部集成了專為 AI 設計的 Hexagon 處理器,同時高通工程師還在軟體底層進行了全套專門最佳化。
蘋果做過類似嘗試,但高通這次明顯更快
手機端本地跑大模型的比拼其實早有苗頭。去年 12 月,蘋果也曾針對自家機器學習框架 Core ML 推出了執行 Stable Diffusion 的最佳化方案。
外媒在測試中發現,使用 2021 年釋出的 iPhone 13 搭配第三方應用 Draw Things 執行 Core ML 加速,生成一張 512 x 512 畫素的圖片大約需要 60 秒。
單純對比速度,高通確實把用時縮短到了四分之一,不過這裡的對比也存在客觀差異:高通使用的是更新的旗艦硬體和尚未公開發布的內部最佳化包,而蘋果裝置測試使用的是老款機型和公開應用。
但不管怎麼說,從一小時縮短到一分鐘,再進一步壓進 15 秒,端側大模型的實用化進度比預期快得多。
為什麼重要
我們認為,這項演示最大的價值在於證明了手機端側算力完全有能力接管生成式 AI,而不再必須給雲端大廠交伺服器過路費。
對普通使用者和開發者來說,本地執行意味著三件事:不用聯網也能出圖、免去了高昂的雲端 API 訂閱費用,而且你的輸入詞和生成內容永遠留在手機本地,不存在隱私洩露給第三方的顧慮。
對行業而言,這一步會直接把端側 AI 算力的競爭推向白熱化。它會逼著聯發科、蘋果等晶片廠商在下一代處理器中堆疊更強的專用 NPU 單元,同時也會改變移動端應用的開發範式,更多小型工具開發者不用再為伺服器賬單發愁。
高通的做法非常聰明,它選擇業內最通用的開源標杆模型 Stable Diffusion 來秀肌肉,直接把晶片的硬體效能轉化成大眾看得懂的秒數指標。
隱患在於,目前這還只是一場技術演示,高通並沒有把這套底層最佳化包開放給普通消費者或第三方開發者直接使用。在散熱、電池功耗以及長時間連續出圖的表現上,高通還需要向外界證明這種高強度負載在日常手機上是真正可用的。
來源 (1)
- theverge.com(在新分頁開啟)原文theverge.com