本文へスキップ
IFAI

オープンソース

RekaがFlash 3.1と量子化ツールをOSS公開:3.5bitでも性能劣化ほぼゼロ

公開 拡散指数 46

Rekaは210億パラメータモデル「Reka Flash 3.1」と量子化ライブラリ「Reka Quant」をオープンソース公開した。強化学習の刷新でコーディング性能を高めつつ、3.5bit圧縮でも性能低下を最小限に抑え、低スペック環境でのエージェント運用を身近にする。

RekaがFlash 3.1と量子化ツールをOSS公開:3.5bitでも性能劣化ほぼゼロ
画像:reka.ai

Reka Flash 3.1は、コーディングやAIエージェントの微調整用途に特化した210億パラメータ(21B)の軽量基盤モデルだ。同時に公開された量子化ライブラリ「Reka Quant」を使えば、モデルを3.5bitという極めて低いビット幅まで圧縮しても、精度をほとんど落とさずに運用できる。

ウェイトとコードはすでに公開されており、GPUメモリに制限があるローカル環境や低コストなサーバーでも手軽に動かすことが可能だ。

強化学習スタック刷新でコーディング性能が大幅向上

Flash 3.1は、前世代のFlash 3と比べて推論やコード生成能力が大きく底上げされている。ベンチマークのLiveCodeBench v5では、前モデルから10ポイントのスコア上昇を記録した。

Rekaによると、プログラミング関連タスクにおいては、21BというコンパクトさでありながらQwen3-32Bやo3-miniといった大型モデルや推論特化型モデルと肩を並べる水準に達しているという。

この進化を支えているのが、強化学習(RL)スタックの抜本的な見直しだ。新しい強化学習アルゴリズムの採用とトレーニング基盤のスケーラビリティ改善により、複雑な手順を要するタスクへの適応力を引き上げた。

3.5bit圧縮でも性能劣化はわずか1.6

ローカルでエージェントを動かしたい開発者にとって、最大の注目点は付属の量子化ツール「Reka Quant」だ。

通常、4bit未満への過度な圧縮は急激な性能低下を招く。llama.cppのQ3_K_S形式へ変換する従来の一般的な量子化ルーチンでは、平均して6.8もの性能劣化が発生していた。

これに対しReka Quantは、自己蒸留(self-distillation)とキャリブレーションによる誤差低減手法を採用し、分散プロキシHessian計算を用いた高速なLDLQに対応した。これにより、Flash 3.1を3.5bitのQ3_K_S形式に圧縮しても、性能低下はわずか1.6に抑えられている。

llama.cpp標準のQ3_KやQ4_K形式へのエクスポートに対応しており、Reka自身もウェブ検索エージェント「Reka Research」や画像認識基盤「Reka Vision」の内部オーケストレーターとしてこの量子化モデルを実戦投入している。

入手方法と試し方

Reka Flash 3.1のモデルウェイト、3.5bit量子化版、そしてReka Quantのコードは、Hugging FaceおよびGitHubにてオープンソースとして無償公開されている。

ローカル環境を構築せずに試したい場合は、Web上のPlaygroundや公式API(モデル名:reka-flash-3.1)からも利用できる。

なぜ重要か

手元のPCや単一GPUで高機能な自律エージェントを動かしたい開発者にとって、Flash 3.1は非常に魅力的な選択肢になる。21Bという手頃なサイズ感に加え、実用上劣化を感じない3.5bit圧縮が使えるため、VRAM容量の壁を一気にクリアできるからだ。

モデル本体だけでなく、llama.cppと連携可能な量子化ライブラリまで丸ごとオープンソースにした点は極めて実用的だ。性能と軽量化のトレードオフに悩んでいたエージェント開発の現場に、即戦力のベースモデルが登場したと言える。

情報源 (1)

  1. [1]
    reka.ai(新しいタブで開きます)原文reka.ai

毎日のAIピックアップ