Meta 推出端侧模型 MobileLLM：3.5 亿参数在 API 调用上媲美 70 亿 LLaMA-2

MobileLLM 是 Meta 开源的一套专门针对智能手机和端侧设备的轻量语言模型架构，核心目标是在不到 10 亿参数的极小体积下，榨出足够实用的模型能力。

它由 Meta Reality Labs、PyTorch 团队以及 FAIR 联合研发，主要解决端侧硬件跑大模型时内存不足、发热和耗电严重的痛点。

它能做什么

虽然体量被严格压在 10 亿参数以内，但 MobileLLM 在实际任务中的表现并不缩水。

在常规评测基准上，它比同尺寸的现有轻量模型性能高出 2.7% 到 4.3%。

最亮眼的突破在于工具调用：3.5 亿参数的 MobileLLM 版本，在特定 API 调用任务上的准确率，已经能够追平参数量是它 20 倍的 70 亿参数 LLaMA-2。

这意味着它非常适合直接塞进手机系统，专门用来听懂用户指令、调用日历、发送消息或操作手机设置，而不需要把数据传到云端。

怎么做到的

为了在极小体积下提升能力，团队放弃了常规小模型的瘦身方案，做了几项关键调整。

首先是做深不做宽。通常小模型喜欢减少网络层数，但 MobileLLM 优先保证网络深度，让模型能学到更复杂的表达逻辑。

其次是引入了分组查询注意力机制，并且让词嵌入层共享权重。

Meta 首席 AI 科学家 Yann LeCun 在 X 上专门提到了另一项关键技术：即时块级权重共享。通过在相邻层之间复用权重，既减少了模型占用的内存空间，又避免了反复加载参数造成的延迟。

开放程度与怎么用

目前 MobileLLM 还没做成直接面向普通用户的开箱即用应用。

Meta 已经将预训练代码完全开源，研究人员和开发者可以直接获取代码，用来复现架构并训练自己的端侧专属模型。

想要尝试的开发者可以关注 Meta 开源的预训练仓库，结合自己的端侧数据集进行训练或微调。

为什么重要

如果你是端侧应用或系统级功能开发者，MobileLLM 非常值得跟进。它证明了不需要动辄 7B、8B 的庞大体积，3.5 亿参数只要架构得当，就能把端侧最需要的 API 调用和意图识别跑得很好。

和直接把云端大模型做简单剪枝的做法相比，MobileLLM 这种从一开始就面向端侧内存与计算瓶颈重新设计架构的思路，显然更务实也更聪明。端侧 AI 想真正普及，拼的正是这种在几百兆显存里把单一任务做到极致的能力。