Google 釋出端側模型 Gemma 3n：5B 模型僅佔 2GB 記憶體，專為手機打造

Gemma 3n 是 Google 專為手機、平板和筆記本設計的端側開放多模態模型。它能讓你在沒有網路、不把資料傳到雲端的情況下，直接在本地裝置上同時處理音訊、影像、影片和文本。

這次推出的預覽版包含兩個規格：原始引數量為 5B 和 8B，但實際執行時對記憶體的開銷極低，專門適配日常移動硬體。

它能做什麼

Gemma 3n 的核心能力是端側多模態理解與即時互動。

你可以把一段語音、一張照片甚至一段本地影片直接扔給它，讓它結合上下文生成回覆，全部計算都在裝置本地完成，隱私完全不出裝置。

它尤其強化了音訊能力。開發者可以用它做即時的語音轉錄、多語言即時翻譯，或者搭建完全跑在本地的語音互動助手，不再受網路延遲和雲端 API 費用的限制。

怎麼把 5B 模型塞進 2GB 記憶體

能在手機上流暢跑大模型，關鍵在於 Google DeepMind 研發的一項新技術：逐層嵌入（Per-Layer Embeddings，簡稱 PLE）。

大模型在端側執行最大的瓶頸通常不是算力，而是 RAM 記憶體佔用。PLE 技術大幅降低了執行時的記憶體開銷。

經過這項技術最佳化後，5B 引數的 Gemma 3n 動態記憶體佔用只有 2GB 左右，而 8B 引數版本的記憶體佔用也僅有 3GB。換句話說，你用跑 2B 和 4B 模型的記憶體預算，就能跑起過去必須靠雲端才能帶動的 5B 和 8B 模型。

硬體生態上，Google 已經和高通、聯發科以及三星的 System LSI 展開了底層合作，針對各家移動晶片的加速單元做了針對性適配。

怎麼上手與開放程度

目前 Google 已經開放了 Gemma 3n 的早期預覽體驗（Early Preview），開發者可以通過官方文件和預覽通道獲取並開始測試。

這套與高通、聯發科等晶片廠商合作打磨的全新架構，也是未來 Android 和 Chrome 端側 AI 的底盤。Google 計劃在今年晚些時候，把同樣的架構推向新一代 Gemini Nano，直接落地在系統和原生應用中。

為什麼重要

如果你是做移動端應用、智慧硬體或本地工具的獨立開發者，Gemma 3n 非常值得第一時間關注。過去在手機上部署多模態模型，往往要面對爆記憶體、殺後臺的尷尬，而 2GB 的動態記憶體門檻，意味著市面上主流的千元機和中端裝置也能穩定執行。

在端側開源生態裡，多數開源小模型仍然以純文本為主，兼顧即時音影片的多模態端側模型並不多見。Google 這次把用於打磨 Gemini Nano 的底層架構提前以 Gemma 3n 開放出來，一方面是為了給 Android 生態的本地 AI 應用提前修橋鋪路，另一方面也在倒逼移動晶片和端側開發全面轉向端側多模態。