跳到正文
IFAI

開源專案

Liquid AI 釋出 LFM2-2.6B-Exp:純強化學習訓練,指令得分超大模型 263 倍

首次發布 傳播指數 57

Liquid AI 釋出實驗模型 LFM2-2.6B-Exp。它基於 LFM2-2.6B 採用純強化學習訓練,在指令遵循、知識和數學基準上超越其他 3B 級別模型,其中 IFBench 得分超過了體積為其 263 倍的 DeepSeek R1-0528。模型已在 Hugging Face 開源。

Liquid AI 釋出 LFM2-2.6B-Exp:純強化學習訓練,指令得分超大模型 263 倍
圖:x.com

LFM2-2.6B-Exp 是一個引數量僅 26 億的端側實驗模型,專門用來解決小模型不聽話、數學差的問題。如果你想在筆記本或普通顯示卡上跑一個能嚴格遵循複雜指令、還能做工具呼叫的本地模型,它現在就能直接在 Hugging Face 下載。

它能做什麼

按照 Liquid AI 的測試,這個 2.6B 模型在指令遵循、常識問答和數學基準上均超過了同級別的其他 3B 模型。

最顯眼的資料來自 IFBench,這是一套專門測試複雜限制性指令執行的基準。LFM2-2.6B-Exp 的得分超過了 DeepSeek R1-0528,而後者的引數量足足是它的 263 倍。

在標準測試中,它的基底版本就拿到了 GSM8K 82.41% 和 IFEval 79.56% 的成績,跑贏了 Llama 3.2 3B Instruct、Gemma 3 4B it 以及 SmolLM3 3B。這次的強化學習版本把這兩項長板拉得更長。

它還原生支援工具呼叫。輸入格式接近 ChatML,能夠用 JSON 標記工具,再輸出類似 Python 的呼叫程式碼。同時它也是家族裡唯一支援 think 特殊 token 的版本,遇到複雜或多語言輸入時能開啟混合推理。

怎麼做到的與硬體規格

它的聰明之處在於純強化學習訓練方案。團隊沒有重做底座,而是在已經完成大規模監督微調(SFT)和對齊的 LFM2-2.6B 上,直接用可驗證獎勵做連續強化學習。

這個強化學習過程先訓指令遵循,再擴充套件到知識類提問、數學和少量工具呼叫,中間沒有額外的 SFT 熱身或模型蒸餾,完全靠策略調整把潛能逼出來。

底座架構依然是 Liquid 標誌性的混合設計,整整 30 層中包含了 22 層 LIV 短程卷積和 8 層分組查詢注意力(GQA)。這種設計大幅壓縮了 KV 快取的開銷,推理速度極快。

模型上下文長度為 32,768 token,詞表大小 65,536,採用 bfloat16 精度。它支援英語、中文、法語、德語、日語、韓語、西班牙語和阿拉伯語等語言,在消費級顯示卡或 NPU 上都可以輕鬆跑起來。

為什麼重要

對於想在端側折騰 AI Agent、做原生代碼輔助或搭自動化工作流的開發者來說,這個檢查點非常值得一試。以前 3B 級別的小模型往往指令一多就放飛自我,而它把注意力省下來的算力換成了更高的遵從度。

不過它畢竟只有 26 億引數,不要指望它具備通用大模型那樣的世界知識儲備。純強化學習拉高了它在有明確對錯任務上的準確率,但在開放式創作和寬泛長文理解上,它依然受制於尺寸本身。我們認為它是目前 3B 級別裡最像合格工具人的端側底座之一。

來源 (2)

  1. [1]
    @liquidai(在新分頁開啟)原文x.com
  2. [2]

每日 AI 內容精選