Together AI、o3-mini匹敵の推論モデル「DeepCoder-14B」をオープンソース公開

DeepCoder-14B-Previewは、Together AIとAgenticaチームが共同開発したオープンソースのコード推論特化モデルだ。わずか14Bのパラメータサイズでありながら、OpenAIのo3-miniに匹敵するコーディング推論性能を発揮する。

本モデルはDeepseek-R1-Distilled-Qwen-14Bをベースに、分散強化学習（RL）を用いてファインチューニングされた。ベンチマークのLiveCodeBenchにおいてPass@1正解率60.6％を達成し、ベースモデルから8ポイント向上。o3-miniやo1と同等の水準に到達している。

どのように学習されたか

強化学習による推論モデルのスケールは数学分野で先行していたが、コード分野は検証可能な高品質データの不足により遅れをとっていた。既存のデータセットは問題が簡単すぎるか、テストケースが不完全で、モデルが答えを丸暗記する「リワードハッキング」が起きやすかった。

そこでチームは、厳格に検証可能な2万4000問の高品質データセットを構築した。内訳はTACO Verifiedから7500問、PrimeIntellectのSYNTHETIC-1から1万6000問、LiveCodeBenchから600問となっている。

選定基準は厳格で、公式解法ですべての単体テストを通過すること、さらに最低5つのテストケースを備えていることが義務付けられた。テストベンチマークとの重複排除も徹底されている。

学習には32基のNvidia H100を使用し、約2.5週間を要した。膨大な単体テスト実行のボトルネックを解消するため、チームはエンドツーエンド学習を2倍に高速化する拡張機能「verl-pipe」を開発し、並列サンドボックス環境とともにオープンソース化した。

公開範囲と利用方法

今回の公開は極めて包括的だ。DeepCoder-14B-Previewのモデル重みに加え、2万4000問のデータセット、学習コード、ログ、システム最適化の全容がオープンにされている。

アセットはGitHubリポジトリ等で配布されており、研究者や開発者はverl-pipeとサンドボックスを組み合わせることで、再現実験や独自の追加強化学習をすぐに始められる。

なぜ重要か

ローカル環境で自前のコーディング支援基盤を構築したい開発者にとって、DeepCoder-14Bは非常に魅力的な選択肢となる。巨大な商用APIに依存せずとも、14Bサイズで高度なアルゴリズム推論を低コストに実現できる道が開けたからだ。

私たちが注目すべきは、モデル単体だけでなく「小規模モデルをRLで強化する完全なレシピ」が共有された点にある。厳密なデータ検証とサンドボックス高速化の仕組みを公開したことで、オープンソース陣営のコードモデル開発は一気に加速するはずだ。