Meta 推出端侧模型 MobileLLM:3.5 亿参数在 API 调用上媲美 70 亿 LLaMA-2
Meta 公布面向手机等端侧设备的语言模型架构 MobileLLM,专注 10 亿以下参数规模。通过优先增加网络深度与权重共享,其 3.5 亿参数版本在部分 API 调用任务上媲美 70 亿参数的 LLaMA-2。这意味着端侧小模型也能胜任实用功能,目前预训练代码已开源。
Meta 公布面向手机等端侧设备的语言模型架构 MobileLLM,专注 10 亿以下参数规模。通过优先增加网络深度与权重共享,其 3.5 亿参数版本在部分 API 调用任务上媲美 70 亿参数的 LLaMA-2。这意味着端侧小模型也能胜任实用功能,目前预训练代码已开源。