跳到正文
IFAI

开源项目

百度开源 ERNIE 4.5 模型家族:多模态参数最高达 424B

首次发布 传播指数 49

百度在 Hugging Face 上线 ERNIE 4.5 开源模型系列,涵盖文本与图文多模态能力,参数规模从 0.3B 一路覆盖到 424B。该系列同时提供 Paddle 与 PyTorch 权重,并包含 Thinking 推理版及量化版本。

百度开源 ERNIE 4.5 模型家族:多模态参数最高达 424B
图:huggingface.co

百度把 ERNIE 4.5 家族搬上了 Hugging Face,一口气开源了从 0.3B 边缘端小模型到 424B 旗舰多模态大模型的完整阵容。如果你正在寻找一个具备图文理解能力、且有成熟量化方案与长思考推理版本的开源底座,这个系列提供了一整套规格供本地部署或微调选用。

从端侧到 424B 旗舰的规格阵容

整个 ERNIE 4.5 开源集合覆盖了纯文本生成与图文多模态两大方向。

最高规格的多模态模型是 ERNIE-4.5-VL-424B-A47B,总参数量达到 424B,激活参数约 47B。纯文本领域的旗舰版本则是 ERNIE-4.5-300B-A47B,总参数约 300B。

面向中等规模场景,百度提供了 28B 的多模态版本 ERNIE-4.5-VL-28B-A3B,以及 21B 的纯文本模型 ERNIE-4.5-21B-A3B。针对极端边缘端和低功耗环境,系列里还包含仅 0.3B 参数的微型模型。

双框架权重与长思考推理版

这次开源没有只局限于百度自家的飞桨生态。除了 PaddlePaddle 原生格式外,所有主流尺寸都同步放出了 PyTorch 权重,降低了接入社区现有推理管线的门槛。

在中端尺寸上,百度专门推出了 ERNIE-4.5-21B-A3B-Thinking 和多模态的 ERNIE-4.5-VL-28B-A3B-Thinking,专门面向长思考与复杂推理任务。

超大模型的部署通常需要极高显存,官方为此直接针对 300B 文本模型配套了多种量化版本,不仅包含 FP8 和 W4A8C8-TP4,还放出了针对多卡张量并行的 2-bit 极限压缩权重。

怎么获取与上手

所有模型权重、分词器和配置文件均已直接公开托管在 Hugging Face 的 baidu 官方主页上。

开发者可以直接通过 Hugging Face 检索 ernie-45 集合进行拉取。由于提供了基础版(Base)和指令对齐版,你可以根据需要直接调用对话权重,或者拉取 Base 权重在自有数据集上进行二次预训练与对齐。

为什么重要

在目前的开源生态里,400B 级别以上且原生支持多模态的底座非常稀少。21B 和 28B 的 Thinking 版本正好落在大模型微调与私有部署的实用区间内,对需要长链路推理但算力受限的团队很有吸引力。

我们认为,百度同时放出 PyTorch 格式与极限 2-bit 量化,说明其在开源策略上开始务实地贴近开发者习惯,不再强绑定自有软件栈。如果你正在为企业内网寻找高参数量多模态或深度推理模型,这一套模型值得直接拉下来进行基准实测。

来源 (2)

  1. [1]
    yiyan.baidu.com(在新标签页打开)原文yiyan.baidu.com
  2. [2]
    huggingface.co(在新标签页打开)报道huggingface.co

每日 AI 内容精选