Reka 开源 Flash 3.1 与量化库：21B 模型压到 3.5-bit 近乎无损

Reka Flash 3.1 是一个 210 亿参数（21B）的紧凑型基础模型，重点优化了代码生成与智能体（Agent）微调能力。配合一同开源的量化工具库 Reka Quant，它可以被压缩至 3.5-bit 极低位宽，且几乎不损失推理精度。

目前模型权重与代码均已上线，可以在资源有限的本地硬件或低成本服务器上直接跑起来。

升级强化学栈，代码能力对标 32B

Flash 3.1 相比前代 Flash 3，最显著的变化在推理与编码能力上。在代码基准测试 LiveCodeBench v5 中，Flash 3.1 的成绩比前代提高了 10 分。

官方表示，在日常编程及相关任务上，这个 21B 模型展现出的竞争力已经可以对标 Qwen3-32B 和 o3-mini 这类更大规模或专精推理的模型。

性能提升的核心来自强化学习技术栈的重构。Reka 换上了全新的强化学习算法，并大幅提升了训练框架的分布式扩展能力，使模型在多步骤逻辑拆解上更扎实。

3.5-bit 量化仅损失 1.6 性能

对于想要本地部署智能体的开发者来说，更关键的是与模型同步放出的量化工具库 Reka Quant。

传统量化在位宽压到 4-bit 以下时往往精度雪崩。官方测试显示，使用常规例程将模型压至 llama.cpp 的 Q3_K_S 格式时，平均会带来 6.8 的性能衰减。

而 Reka Quant 引入了自蒸馏机制和校准误差减少技术，并支持用于快速 LDLQ 的分布式代理 Hessian 计算。经它处理后的 3.5-bit Q3_K_S 版本，平均性能损耗被控制在 1.6，实现了近乎无损的超低位宽运行。

这套量化库支持直接导出为社区常用的 llama.cpp 格式（如 Q3_K 和 Q4_K）。Reka 自己的多模态联网搜索智能体 Reka Research 和视觉理解平台 Reka Vision，底层也正是依赖这套微调与量化方案。

如何上手与获取

Reka Flash 3.1 的基础权重、3.5-bit 量化版本以及 Reka Quant 代码库均已开源在 Hugging Face 和 GitHub 上，任何人都可以免费下载部署。

如果不想本地配置环境，也可以在官方 Playground 直接试玩，或者通过官方 API 调用，模型名称为 reka-flash-3.1。

为什么重要

对想要自建智能体的独立开发者和中小团队来说，Reka Flash 3.1 提供了一个非常划算的基座选择。它卡在 21B 这个大小，本来就比动辄 70B 的大模型轻便得多；在 3.5-bit 几乎不掉点的前提下，单张消费级显卡甚至高配笔记本就能轻松载入运行。

我们认为，Reka 这次最聪明的动作在于没有单纯卷参数规模，而是把强化学习带来的逻辑提升和 llama.cpp 生态的极低门槛结合了起来。把量化工具库一同开源，直接打消了小模型落地部署时显存不够与精度暴跌的双重顾虑。