跳到正文
IFAI

開源專案

OpenBMB 開源 MiniCPM5-2B:20 億引數挑戰 40 億,附帶全套訓練資料

首次發布 傳播指數 59

OpenBMB 開源 20 億引數端側模型 MiniCPM5-2B。其大小約 5GB,可在普通消費級裝置上執行,在程式碼與數學等測試中綜合表現挑戰 40 億引數的 Qwen3.5-4B。團隊還同步公開了背後的全套高質量訓練資料,方便開發者訓練自己的小模型。

OpenBMB 開源 MiniCPM5-2B:20 億引數挑戰 40 億,附帶全套訓練資料
圖:huggingface.co

MiniCPM5-2B 是 OpenBMB 推出的 20 億引數端側稠密語言模型,專門用來在手機、輕薄本等消費級裝置上做離線推理。

它的實際引數量約為 25.17 億,模型檔案大小隻有大約 5GB,對硬體視訊記憶體和記憶體的要求非常低,絕大多數普通消費級硬體都能輕鬆跑起來。

它能做什麼

雖然體量只有 2B 級別,但它在程式碼推理、數學解題、指令遵循以及通用知識問答上的平均表現,直接叫板甚至超過了 40 億引數的 Qwen3.5-4B 以及 granite-4.2-3B 等同類小模型。

在 Artificial Analysis 的 Intelligence Index 評測中,它在 40 億引數以下開源模型裡拿下了 23 分,排在第一名,Agentic Index 也拿到了 20 分。另外,它原生支援高達 131072 個 token 的超長上下文視窗。

除了常規的文本理解,日文等跨語言提問也能給出結構清晰、符合語法的回答,不像以前的小模型那樣容易在小語種上胡言亂語。

怎麼做到的與開源程度

小模型能有越級表現,關鍵在於訓練資料的質量。這次 OpenBMB 很大方,不僅開源了模型權重,還把背後的 UltraData 系列高質量訓練集全放了出來。

放出的資料包括網路預訓練集 UltraX、分級程式碼資料集 UltraData-Code、包含 50 萬條智慧體訓練樣本的 UltraData-SFT-Agent-2609,以及超過 8 萬條強化學習訓練樣本 UltraData-RL-2609。如果你想訓練自己的專屬小模型,可以直接拿這套資料當養料。

模型本身採用 Apache 2.0 許可證開源。官方在 Hugging Face 和 ModelScope 上提供了多種打包版本,從 BF16 完整版、SFT 版、預訓練基座版,到方便 llama.cpp 呼叫的 GGUF、蘋果晶片專屬的 MLX 4bit,以及 GPTQ 量化版一應俱全,也可以用 vLLM 或 SGLang 一鍵部署。

想立刻體驗的話,可以直接去 Hugging Face Spaces 試用免安裝的線上演示 Demo。

為什麼重要

對於個人開發者和邊緣裝置開發者來說,MiniCPM5-2B 非常值得試。以前 2B 級別的模型多半隻能做簡單的分類或短句生成,稍微遇上程式碼或複雜推理就崩潰;而這款模型能在 5GB 左右的體量下保持不錯的邏輯能力,非常適合裝在本地做離線助手、終端程式碼補全或自動化 Agent。

更難得的是它連同完整的強化學習與 Agent 資料集一起開源。開源社群不僅多了一個能打的輕量底座,還拿到了一套可以直接復現和借鑑的訓練配方,這比單純放出一個黑盒權重有價值得多。

來源 (3)

  1. [1]
    huggingface.co(在新分頁開啟)原文huggingface.co
  2. [2]
  3. [3]
    youtube.com(在新分頁開啟)報導youtube.com

每日 AI 內容精選