Stability AI 推出 Stable LM 3B:专为端侧打造,表现超越部分 7B 模型
Stability AI 推出 3B 参数的轻量语言模型 Stable LM 3B,专为掌上设备和笔记本打造。它的常识推理表现不仅超越同尺寸前代模型,还胜过部分开源 7B 模型,能显著降低端侧运行成本。模型以 CC-By-SA 4.0 协议开源,作为基础模型供开发者微调。

Stable LM 3B 是 Stability AI 专门为笔记本和掌上便携设备打造的 30 亿参数轻量语言模型,让你不用依赖庞大的云端算力,在本地设备上就能跑起高水平的文本生成。
业内主流的大语言模型动辄 7B 到 70B 参数,不仅烧显存,功耗和运行成本也很高。Stable LM 3B 的目标就是把体积压下来,同时维持足够能打的生成质量。
它能做到什么
别看它只有 30 亿参数,在下游自然语言基准测试中,它的常识推理和常识问答成绩已经超过了此前的同尺寸最优模型。
甚至在部分常见测试里,它的表现压过了业内一些优秀的开源 7B 模型。除了文字生成和创意写作,它还能被微调成特定编程语言的代码助手,或是企业内部的低成本客服模型。
更轻的体积意味着大幅降低的功耗。如果部署在移动边缘设备或家庭 PC 上,设备发热和电量消耗都会友好得多。
怎么做到的与当前限制
为了让 3B 模型发挥出越级性能,Stability AI 在高质量数据集上对其进行了多轮迭代训练,在保持快速推理的同时明显提升了文本质量。
不过大家上手前要看清:这次放出的是一个实验性质的基础模型,并不是开箱即用的对话助手。
也就是说,它还没有经过指令微调和对齐,直接拿去做问答或对话可能会胡言乱语。官方表示指令微调版本正在进行安全测试,很快就会推出。
目前 Stable LM 3B 的模型权重已经在 Hugging Face 上开放下载,采用开源 CC-By-SA 4.0 协议。
为什么重要
如果你是独立开发者或想在边缘端搞落地的团队,这款模型非常值得现在下载下来摸底。3B 参数意味着只要普通笔记本甚至高端掌上设备就能轻松载入微调,试验成本极低。
对行业而言,它证明了靠高质量数据精炼的小模型完全能在特定推理任务上叫板 7B 级别。在端侧 AI 竞争越来越激烈的当下,开源小模型正在快速抹平普通硬件与智能体验之间的鸿沟。
来源 (1)
- stability.ai(在新标签页打开)原文stability.ai
话题追踪Stability AI 的大语言模型与视觉语言模型开发
- Stable LM Zephyr 3B 发布:3B 轻量模型,边缘设备也能流畅跑
- Stability AI 推出 Stable LM 3B:专为端侧打造,表现超越部分 7B 模型本条
- Stability AI 发布日语图文模型 Japanese InstructBLIP Alpha:能认晴空塔与金阁寺
- Stability AI 发布首个日语模型:70 亿参数,基础版开源可商用
- Stability AI 发布 Stable Beluga 2:仅用一成合成数据微调登顶榜首