跳到正文
IFAI

开源项目

Stability AI 发布 Stable LM 2 12B:兼顾多语言与工具调用

首次发布 传播指数 45

Stability AI 推出开源模型 Stable LM 2 12B,包含基础与指令微调版,基于 2 万亿 token 训练并支持英、德、法等 7 种语言。其指令版支持工具调用与 RAG 检索增强。同时 1.6B 版本也获升级。个人研究免费,商用需开通会员。

Stability AI 发布 Stable LM 2 12B:兼顾多语言与工具调用
图:stability.ai

Stable LM 2 12B 是 Stability AI 推出的 120 亿参数开源语言模型,主打多语言处理、工具调用和本地硬件部署。如果你正在寻找一个不用堆砌多张专业计算卡、能在主流配置上顺畅运行,同时支持欧洲主流语言的开源基座,这个模型值得直接上手测试。

它能做什么

该模型分为基础版与指令微调版两个版本。两者均基于 2 万亿 token 进行预训练,覆盖英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语共 7 种语言。

其中指令微调版重点强化了对话能力、工具使用以及函数调用。官方将其定位为检索增强生成系统的核心大脑,开发者可以方便地将其接入本地知识库或多步调用流程中。

除了 12B 模型,Stability AI 还同步更新了轻量级的 Stable LM 2 1.6B。小尺寸版本在保留极低硬件门槛的同时,也获得了上述 7 种语言的对话升级与函数调用能力。官方后续还计划推出长上下文版本。

规格与表现

12B 的体积正好处于单卡运行的甜点区间。相比动辄需要大显存池的混合专家模型,它能在开发者常见的计算设备上保持较低的显存占用和稳定的推理速度。

在基准测试中,官方将 Stable LM 2 12B 与 Mixtral、Llama 2、Qwen 1.5 14B、Gemma 8.5B 以及 Mistral 7B 进行了横向对比。在 Open LLM Leaderboard 和校正后的 MT-Bench 上,该模型在零样本和少样本任务中展现了扎实的多语言与推理表现。

两款模型的权重目前已上线 Hugging Face,官方也开放了网页端在线测试。该模型支持非商业用途免费下载使用;如果需要将其集成到商业产品中,则需要购买 Stability AI Membership 会员授权。

为什么重要

我们认为,Stable LM 2 12B 走了一条务实的落地方线。它没有盲目追求超大参数规模,而是精准切中了开发者搭建本地 RAG 和自主 Agent 最在意的两个痛点:硬件门槛适中、具备可靠的工具调用接口。

对于需要处理欧洲多语言业务,或者对数据隐私要求严格的团队来说,它是一个合格的端侧候选基座。不过它的商用授权绑定了付费会员,团队在选型时需要权衡许可成本与自研维护的投入。

来源 (1)

  1. [1]
    stability.ai(在新标签页打开)原文stability.ai

每日 AI 内容精选