Google 发布端侧模型 Gemma 3n：5B 模型仅占 2GB 内存，专为手机打造

Gemma 3n 是 Google 专为手机、平板和笔记本设计的端侧开放多模态模型。它能让你在没有网络、不把数据传到云端的情况下，直接在本地设备上同时处理音频、图像、视频和文本。

这次推出的预览版包含两个规格：原始参数量为 5B 和 8B，但实际运行时对内存的开销极低，专门适配日常移动硬件。

它能做什么

Gemma 3n 的核心能力是端侧多模态理解与实时交互。

你可以把一段语音、一张照片甚至一段本地视频直接扔给它，让它结合上下文生成回复，全部计算都在设备本地完成，隐私完全不出设备。

它尤其强化了音频能力。开发者可以用它做实时的语音转录、多语言即时翻译，或者搭建完全跑在本地的语音交互助手，不再受网络延迟和云端 API 费用的限制。

怎么把 5B 模型塞进 2GB 内存

能在手机上流畅跑大模型，关键在于 Google DeepMind 研发的一项新技术：逐层嵌入（Per-Layer Embeddings，简称 PLE）。

大模型在端侧运行最大的瓶颈通常不是算力，而是 RAM 内存占用。PLE 技术大幅降低了运行时的内存开销。

经过这项技术优化后，5B 参数的 Gemma 3n 动态内存占用只有 2GB 左右，而 8B 参数版本的内存占用也仅有 3GB。换句话说，你用跑 2B 和 4B 模型的内存预算，就能跑起过去必须靠云端才能带动的 5B 和 8B 模型。

硬件生态上，Google 已经和高通、联发科以及三星的 System LSI 展开了底层合作，针对各家移动芯片的加速单元做了针对性适配。

怎么上手与开放程度

目前 Google 已经开放了 Gemma 3n 的早期预览体验（Early Preview），开发者可以通过官方文档和预览通道获取并开始测试。

这套与高通、联发科等芯片厂商合作打磨的全新架构，也是未来 Android 和 Chrome 端侧 AI 的底盘。Google 计划在今年晚些时候，把同样的架构推向新一代 Gemini Nano，直接落地在系统和原生应用中。

为什么重要

如果你是做移动端应用、智能硬件或本地工具的独立开发者，Gemma 3n 非常值得第一时间关注。过去在手机上部署多模态模型，往往要面对爆内存、杀后台的尴尬，而 2GB 的动态内存门槛，意味着市面上主流的千元机和中端设备也能稳定运行。

在端侧开源生态里，多数开源小模型仍然以纯文本为主，兼顾实时音视频的多模态端侧模型并不多见。Google 这次把用于打磨 Gemini Nano 的底层架构提前以 Gemma 3n 开放出来，一方面是为了给 Android 生态的本地 AI 应用提前修桥铺路，另一方面也在倒逼移动芯片和端侧开发全面转向端侧多模态。