本文へスキップ
IFAI

オープンソース

Reflection AI、501Bオープンモデル「Beam」発表 推論負荷を大幅削減

公開 拡散指数 56

Reflection AIはコーディングや自律エージェント向けオープンモデル「Beam」を発表した。総パラメータ501B、活性23BのMoE構成で、10.5K基のNVIDIA GB300による大規模強化学習を実施。GLM 5.2匹敵の性能を3〜4倍低い推論コストで実現する。今月中に重みを公開予定。

Reflection AI、501Bオープンモデル「Beam」発表 推論負荷を大幅削減
画像:reflection.ai

Beamは、Reflection AIが発表したコーディング、論理推論、自律エージェントタスクに特化したオープンウェイトモデルです。

疎なMixture-of-Experts(MoE)アーキテクチャを採用しており、総パラメータ数は501Bに達しますが、実際に推論で使われる活性パラメータはわずか23Bです。文脈長は最大100万トークンをサポートし、23.8兆トークンの高品質データで事前学習されています。膨大な知識を蓄えつつ、推論時の計算負荷を小型モデル並みに抑える設計です。

どうやって実現したのか

Beamの最大の特徴は、前例のない規模で実施された高計算量強化学習(RL)にあります。

1万500基のNVIDIA GB300 GPUを4週間にわたって稼働させ、約13億のサンドボックス環境で1億回以上のロールアウトを実行しました。学習にはソフトウェア開発、ターミナル操作、競技プログラミングなど、約100万種類の環境が用意されました。

この規模の強化学習では、過去のチェックポイントが生成したデータと最新モデルの乖離が不安定性を招きます。同社は非同期ポリシグラジエント手法を独自に改良し、1日以上前のデータから学習しても発散しない安定性を確保しました。さらに階層型配信システムにより、推論クラスタ全体への新モデル配信時間を中央値約12秒まで短縮し、ラック間トラフィックを75%削減しています。

アーキテクチャ面でも、補助損失を用いない負荷分散技術や深度に応じたスケーリングを導入し、すべてのエキスパートが均等に活用されるよう最適化されています。

実力と柔軟な推論制御

ベンチマークにおいて、BeamはZ.aiのGLM 5.2に匹敵し、2T以上のパラメータを持つQwen 3.8-Maxに迫るコーディング・推論性能を記録しています。特筆すべきは推論効率の高さで、GLM 5.2と同等の推論性能を3〜4倍少ない計算リソースで達成しています。

テキスト専用モデルでありながら汎化性能が高く、RLカリキュラムにブラウジング学習を含めていなかったにもかかわらず、自発的にWeb検索ツールを呼び出したりOCRを利用して文書を読み解く能力を獲得しました。

また、推論の思考量を調整できるパラメータを備えています。簡単な作業では思考ステップを短縮してトークン消費を抑え、難度の高い開発タスクでは長い多段階思考を行わせるといった使い分けが可能です。

入手方法と公開状況

現在は最終的なレッドチーム演習と評価が進められており、公式サイトでアーリーアクセスの登録を受け付けています。モデルの重み、技術レポート、開発者向けアーティファクトは今月後半に一般公開され、主要クラウドやオープンソースライブラリへ統合される予定です。

なぜ重要か

本格的なコーディングエージェントを自前環境で運用したい開発者や企業にとって、Beamは非常に魅力的な選択肢になります。総容量501Bのため起動に必要なハードウェア要件は高いものの、活性パラメータが23Bにとどまるため、運用時のトークン単価とスループットは極めて良好です。

大規模な強化学習を「賢さの追求」だけでなく「推論の効率化」に直結させた点は見事と言えます。今月公開される重みが主張通りの効率を発揮するなら、オープンモデルを活用した社内開発自動化のコスト構造を大きく塗り替える可能性があります。

情報源 (2)

  1. [1]
    reflection.ai(新しいタブで開きます)原文reflection.ai
  2. [2]
    techcrunch.com(新しいタブで開きます)報道techcrunch.com

毎日のAIピックアップ