Reka 開源 Flash 3.1 與量化庫：21B 模型壓到 3.5-bit 近乎無損

Reka Flash 3.1 是一個 210 億引數（21B）的緊湊型基礎模型，重點優化了程式碼生成與智慧體（Agent）微調能力。配合一同開源的量化工具庫 Reka Quant，它可以被壓縮至 3.5-bit 極低位寬，且幾乎不損失推理精度。

目前模型權重與程式碼均已上線，可以在資源有限的本地硬體或低成本伺服器上直接跑起來。

升級強化學棧，程式碼能力對標 32B

Flash 3.1 相比前代 Flash 3，最顯著的變化在推理與編碼能力上。在程式碼基準測試 LiveCodeBench v5 中，Flash 3.1 的成績比前代提高了 10 分。

官方表示，在日常程式設計及相關任務上，這個 21B 模型展現出的競爭力已經可以對標 Qwen3-32B 和 o3-mini 這類更大規模或專精推理的模型。

效能提升的核心來自強化學習技術棧的重構。Reka 換上了全新的強化學習演算法，並大幅提升了訓練框架的分散式擴充套件能力，使模型在多步驟邏輯拆解上更紮實。

3.5-bit 量化僅損失 1.6 效能

對於想要本地部署智慧體的開發者來說，更關鍵的是與模型同步放出的量化工具庫 Reka Quant。

傳統量化在位寬壓到 4-bit 以下時往往精度雪崩。官方測試顯示，使用常規例程將模型壓至 llama.cpp 的 Q3_K_S 格式時，平均會帶來 6.8 的效能衰減。

而 Reka Quant 引入了自蒸餾機制和校準誤差減少技術，並支援用於快速 LDLQ 的分散式代理 Hessian 計算。經它處理後的 3.5-bit Q3_K_S 版本，平均效能損耗被控制在 1.6，實現了近乎無損的超低位寬執行。

這套量化庫支援直接匯出為社群常用的 llama.cpp 格式（如 Q3_K 和 Q4_K）。Reka 自己的多模態聯網搜尋智慧體 Reka Research 和視覺理解平臺 Reka Vision，底層也正是依賴這套微調與量化方案。

如何上手與獲取

Reka Flash 3.1 的基礎權重、3.5-bit 量化版本以及 Reka Quant 程式碼庫均已開源在 Hugging Face 和 GitHub 上，任何人都可以免費下載部署。

如果不想本地配置環境，也可以在官方 Playground 直接試玩，或者通過官方 API 呼叫，模型名稱為 reka-flash-3.1。

為什麼重要

對想要自建智慧體的獨立開發者和中小團隊來說，Reka Flash 3.1 提供了一個非常划算的基座選擇。它卡在 21B 這個大小，本來就比動輒 70B 的大模型輕便得多；在 3.5-bit 幾乎不掉點的前提下，單張消費級顯示卡甚至高配筆記本就能輕鬆載入執行。

我們認為，Reka 這次最聰明的動作在於沒有單純卷引數規模，而是把強化學習帶來的邏輯提升和 llama.cpp 生態的極低門檻結合了起來。把量化工具庫一同開源，直接打消了小模型落地部署時視訊記憶體不夠與精度暴跌的雙重顧慮。