跳到正文
IFAI

开源项目

OpenBMB 开源 MiniCPM5-2B:20 亿参数挑战 40 亿,附带全套训练数据

首次发布 传播指数 59

OpenBMB 开源 20 亿参数端侧模型 MiniCPM5-2B。其大小约 5GB,可在普通消费级设备上运行,在代码与数学等测试中综合表现挑战 40 亿参数的 Qwen3.5-4B。团队还同步公开了背后的全套高质量训练数据,方便开发者训练自己的小模型。

OpenBMB 开源 MiniCPM5-2B:20 亿参数挑战 40 亿,附带全套训练数据
图:huggingface.co

MiniCPM5-2B 是 OpenBMB 推出的 20 亿参数端侧稠密语言模型,专门用来在手机、轻薄本等消费级设备上做离线推理。

它的实际参数量约为 25.17 亿,模型文件大小只有大约 5GB,对硬件显存和内存的要求非常低,绝大多数普通消费级硬件都能轻松跑起来。

它能做什么

虽然体量只有 2B 级别,但它在代码推理、数学解题、指令遵循以及通用知识问答上的平均表现,直接叫板甚至超过了 40 亿参数的 Qwen3.5-4B 以及 granite-4.2-3B 等同类小模型。

在 Artificial Analysis 的 Intelligence Index 评测中,它在 40 亿参数以下开源模型里拿下了 23 分,排在第一名,Agentic Index 也拿到了 20 分。另外,它原生支持高达 131072 个 token 的超长上下文窗口。

除了常规的文本理解,日文等跨语言提问也能给出结构清晰、符合语法的回答,不像以前的小模型那样容易在小语种上胡言乱语。

怎么做到的与开源程度

小模型能有越级表现,关键在于训练数据的质量。这次 OpenBMB 很大方,不仅开源了模型权重,还把背后的 UltraData 系列高质量训练集全放了出来。

放出的数据包括网络预训练集 UltraX、分级代码数据集 UltraData-Code、包含 50 万条智能体训练样本的 UltraData-SFT-Agent-2609,以及超过 8 万条强化学习训练样本 UltraData-RL-2609。如果你想训练自己的专属小模型,可以直接拿这套数据当养料。

模型本身采用 Apache 2.0 许可证开源。官方在 Hugging Face 和 ModelScope 上提供了多种打包版本,从 BF16 完整版、SFT 版、预训练基座版,到方便 llama.cpp 调用的 GGUF、苹果芯片专属的 MLX 4bit,以及 GPTQ 量化版一应俱全,也可以用 vLLM 或 SGLang 一键部署。

想立刻体验的话,可以直接去 Hugging Face Spaces 试用免安装的在线演示 Demo。

为什么重要

对于个人开发者和边缘设备开发者来说,MiniCPM5-2B 非常值得试。以前 2B 级别的模型多半只能做简单的分类或短句生成,稍微遇上代码或复杂推理就崩溃;而这款模型能在 5GB 左右的体量下保持不错的逻辑能力,非常适合装在本地做离线助手、终端代码补全或自动化 Agent。

更难得的是它连同完整的强化学习与 Agent 数据集一起开源。开源社区不仅多了一个能打的轻量底座,还拿到了一套可以直接复现和借鉴的训练配方,这比单纯放出一个黑盒权重有价值得多。

来源 (3)

  1. [1]
    huggingface.co(在新标签页打开)原文huggingface.co
  2. [2]
  3. [3]
    youtube.com(在新标签页打开)报道youtube.com

每日 AI 内容精选