Reka, Flash 3.1 및 양자화 라이브러리 공개: 3.5비트에서도 무손실 수준 유지

Reka Flash 3.1은 코딩과 에이전트 미세조정에 최적화된 210억 매개변수(21B) 규모의 오픈소스 모델이다. 함께 공개된 양자화 라이브러리 Reka Quant를 사용하면 모델을 3.5비트라는 극도로 낮은 비트 수로 압축하면서도 성능 저하를 거의 겪지 않고 구동할 수 있다.

모델 가중치와 소스코드가 모두 공개되어 있어, VRAM이 넉넉하지 않은 로컬 장비나 저비용 서버에서도 가볍게 올려 쓸 수 있다.

강화학습 개선으로 코딩 벤치마크 10점 상승

Flash 3.1은 이전 세대인 Flash 3 대비 추론과 코딩 영역에서 뚜렷한 성능 향상을 이뤄냈다. 코딩 벤치마크인 LiveCodeBench v5 기준으로 이전 버전보다 10점 높은 점수를 기록했다.

Reka 측은 21B 크기임에도 불구하고 코딩 관련 작업에서 Qwen3-32B나 OpenAI의 o3-mini 같은 모델들과 대등하게 경쟁할 수 있는 수준이라고 설명한다.

이러한 진전은 강화학습(RL) 인프라 개편 덕분이다. 새로운 강화학습 알고리즘을 도입하고 분산 학습 확장성을 대폭 개선함으로써 복합적인 에이전트 워크플로우에 필요한 추론 완성도를 끌어올렸다.

3.5비트 양자화에도 성능 저하는 1.6에 불과

로컬 환경에서 직접 에이전트를 구동하려는 개발자들에게 가장 매력적인 요소는 함께 공개된 Reka Quant 라이브러리다.

보통 4비트 미만으로 압축하면 모델 성능이 급격히 무너진다. 실제로 기존 방식으로 llama.cpp의 Q3_K_S 포맷으로 양자화하면 평균 6.8 수준의 성능 저하가 발생한다.

반면 Reka Quant는 자체 증류(Self-distillation)와 오차 보정 기법, 빠른 LDLQ를 위한 분산 프록시 헤시안 계산을 결합했다. 이를 통해 Flash 3.1을 3.5비트 Q3_K_S로 압축했을 때 성능 하락 폭을 단 1.6으로 묶어두며 무손실에 가까운 효율을 달성했다.

llama.cpp에서 널리 쓰이는 Q3_K 및 Q4_K 포맷 내보내기를 기본 지원한다. Reka 자체의 웹 브라우징 에이전트인 Reka Research와 비전 플랫폼 Reka Vision 역시 이 모델을 기반으로 구동된다.

써보는 방법

Reka Flash 3.1 가중치와 3.5비트 버전, Reka Quant 저장소는 현재 Hugging Face와 GitHub에서 무료로 다운로드할 수 있다.

로컬 환경 세팅 없이 바로 성능을 확인해보고 싶다면 Reka 공식 웹 Playground를 이용하거나, reka-flash-3.1이라는 이름으로 제공되는 공식 API를 호출하면 된다.

왜 중요한가

소규모 개발팀이나 개인 빌더가 자율 에이전트를 저렴하게 굴리기에 안성맞춤인 규격이다. 21B라는 적당한 체급에 사실상 무손실인 3.5비트 압축 기술이 붙으면서, 고가의 엔터프라이즈 GPU 없이 소비자용 단일 그래픽카드에서도 준수한 코딩 오케스트레이터를 돌릴 수 있게 되었다.

우리는 Reka가 모델 공개에 그치지 않고 llama.cpp 생태계와 직결되는 양자화 라이브러리를 함께 푼 점을 높게 평가한다. 소형 모델 배포 시 늘 발목을 잡던 VRAM 용량 부담과 압축 시의 지능 저하 문제를 매우 실용적인 방식으로 해결해 주었기 때문이다.