跳到正文
IFAI

开源项目

Liquid AI 发布 LFM2-2.6B-Exp:纯强化学习训练,指令得分超大模型 263 倍

首次发布 传播指数 57

Liquid AI 发布实验模型 LFM2-2.6B-Exp。它基于 LFM2-2.6B 采用纯强化学习训练,在指令遵循、知识和数学基准上超越其他 3B 级别模型,其中 IFBench 得分超过了体积为其 263 倍的 DeepSeek R1-0528。模型已在 Hugging Face 开源。

Liquid AI 发布 LFM2-2.6B-Exp:纯强化学习训练,指令得分超大模型 263 倍
图:x.com

LFM2-2.6B-Exp 是一个参数量仅 26 亿的端侧实验模型,专门用来解决小模型不听话、数学差的问题。如果你想在笔记本或普通显卡上跑一个能严格遵循复杂指令、还能做工具调用的本地模型,它现在就能直接在 Hugging Face 下载。

它能做什么

按照 Liquid AI 的测试,这个 2.6B 模型在指令遵循、常识问答和数学基准上均超过了同级别的其他 3B 模型。

最显眼的数据来自 IFBench,这是一套专门测试复杂限制性指令执行的基准。LFM2-2.6B-Exp 的得分超过了 DeepSeek R1-0528,而后者的参数量足足是它的 263 倍。

在标准测试中,它的基底版本就拿到了 GSM8K 82.41% 和 IFEval 79.56% 的成绩,跑赢了 Llama 3.2 3B Instruct、Gemma 3 4B it 以及 SmolLM3 3B。这次的强化学习版本把这两项长板拉得更长。

它还原生支持工具调用。输入格式接近 ChatML,能够用 JSON 标记工具,再输出类似 Python 的调用代码。同时它也是家族里唯一支持 think 特殊 token 的版本,遇到复杂或多语言输入时能开启混合推理。

怎么做到的与硬件规格

它的聪明之处在于纯强化学习训练方案。团队没有重做底座,而是在已经完成大规模监督微调(SFT)和对齐的 LFM2-2.6B 上,直接用可验证奖励做连续强化学习。

这个强化学习过程先训指令遵循,再扩展到知识类提问、数学和少量工具调用,中间没有额外的 SFT 热身或模型蒸馏,完全靠策略调整把潜能逼出来。

底座架构依然是 Liquid 标志性的混合设计,整整 30 层中包含了 22 层 LIV 短程卷积和 8 层分组查询注意力(GQA)。这种设计大幅压缩了 KV 缓存的开销,推理速度极快。

模型上下文长度为 32,768 token,词表大小 65,536,采用 bfloat16 精度。它支持英语、中文、法语、德语、日语、韩语、西班牙语和阿拉伯语等语言,在消费级显卡或 NPU 上都可以轻松跑起来。

为什么重要

对于想在端侧折腾 AI Agent、做本地代码辅助或搭自动化工作流的开发者来说,这个检查点非常值得一试。以前 3B 级别的小模型往往指令一多就放飞自我,而它把注意力省下来的算力换成了更高的遵从度。

不过它毕竟只有 26 亿参数,不要指望它具备通用大模型那样的世界知识储备。纯强化学习拉高了它在有明确对错任务上的准确率,但在开放式创作和宽泛长文理解上,它依然受制于尺寸本身。我们认为它是目前 3B 级别里最像合格工具人的端侧底座之一。

来源 (2)

  1. [1]
    @liquidai(在新标签页打开)原文x.com
  2. [2]

每日 AI 内容精选