Nanbeige 4.2 開源:3B 智慧體模型靠迴圈架構跑贏 9B
Nanbeige 釋出 30 億引數的小型智慧體模型 Nanbeige 4.2。它採用迴圈 Transformer 架構,通過複用網路層來增加計算深度,完整模型僅 8GB,消費級顯示卡即可執行。在多項智慧體評測中,其表現超越了 3 倍體量的 Qwen 3.5 9B。
很多人想在自己的本地電腦上跑一個真正能幹活的 AI 智慧體,但現實往往很尷尬:能幹活的模型太大,視訊記憶體直接撐爆;塞得進消費級顯示卡的小模型,又經常在複雜長任務裡犯傻。現在,這種妥協可能要有解法了。
Nanbeige 正式開源了 30 億引數的緊湊型智慧體模型 Nanbeige 4.2。最讓人意外的是,這個非嵌入引數僅 3B 的小傢伙,在多項核心智慧體評測中,直接超越了引數量是其三倍的 Qwen 3.5 9B,甚至逼平了接近四倍體量的 Google Gemma 4(12B)。
把資料送回網路再跑一圈
Nanbeige 4.2 之所以能以小博大,核心秘密在於它採用的迴圈 Transformer 架構(Looped Transformer)。
普通大模型處理資料時,每一層網路只走一遍。而 Nanbeige 選擇複用相同的層結構,讓隱藏狀態像在回回路里一樣再次穿過網路層。這就等於在不增加獨立引數量的前提下,大幅拉伸了模型的計算深度。
研發團隊從零開始,用這種迴圈架構在 28T token 的海量資料上進行了預訓練。因為引數只有 30 億,完整的模型權重體積只有 8GB 左右,絕大多數主流消費級 GPU 都能輕鬆吞下。模型上線後反響熱烈,據相關評測影片介紹,僅釋出兩天其在 Hugging Face 上的下載量就突破了 4000 次。
為了讓它真正具備落地幹活的能力,團隊還構建了一套混合環境池,包含大量真實環境與合成資產,覆蓋程式碼倉庫級維護和辦公軟體任務。在後訓練上,他們引入了覆蓋 Think 與 Non-Think 輸出的兩階段 RLHF,並配合長度控制推理以及結合結果與過程獎勵的智慧體強化學習,專門解決長流程任務容易走偏、死迴圈和幻覺的痛點。
越級打平 12B 模型
從實測基準來看,Nanbeige 4.2 幾乎成了當前引數效率最頂尖的選手之一。
在程式碼智慧體基準 SWE-bench Verified、SWE-bench Pro,以及終端操作基準 Terminal Bench、工具呼叫基準 MCP Atlas 和 Claw Eval 上,它的綜合表現全面優於同級別的 Qwen 3.5 4B,並穩步超越了 9B 級別的 Qwen 3.5。
即使在考查硬核推理和通識知識的 GPQA Diamond 與 Humanity’s Last Exam 上,面對引數量接近其四倍的 Google Gemma 4(12B),它同樣展現出了極具競爭力的統治力。結合開源智慧體框架 OpenClaw,Nanbeige 4.2 已經可以充當本地個人助理,處理日常答疑、複雜表格處理和深度研究調研。
為什麼重要
對開發者和極客使用者來說,Nanbeige 4.2 最大的價值在於把全功能個人智慧體的門檻拉到了消費級硬體上。你不需要租用昂貴的雲端 A100,也不用把敏感的程式碼庫和公司文件上傳給第三方服務,一張普通顯示卡就能把一個懂工具呼叫、能自己查錯改程式碼的助手跑在本地。
對整個行業而言,它驗證了一條不同於盲目堆引數的技術路線:通過架構層面的迴圈複用,小模型依然可以通過延長有效計算時間來換取極高的任務完成率。未來端側 AI 和邊緣裝置未必需要動輒數十億的新引數,架構巧思同樣能帶來代際躍遷。
我們認為這一步走得相當務實。當然,迴圈架構也有它的潛在代價——反覆通過網路層意味著推理時的 Token 生成速度可能會慢於同尺寸傳統模型,它是用時間換引數。但對於更看重結果準確率的長流程智慧體任務來說,多等兩秒但把事情辦對,顯然比飛速給出一個滿是漏洞的回答聰明得多。
來源 (2)
- arxiv.org(在新分頁開啟)原文arxiv.org
- youtube.com(在新分頁開啟)報導youtube.com