30億パラメータの「Nanbeige 4.2」公開、ループ構造で9B級を凌駕

自分のパソコン上で本格的に実務をこなせるAIエージェントを動かそうとすると、これまでは高い壁に突き当たっていました。賢いモデルは巨大すぎてVRAMが足りず、民生用GPUに収まる軽量モデルは複雑なタスクで迷走してしまうのが常だったからです。

Nanbeigeが公開した「Nanbeige 4.2」は、そうした制約を壊す可能性を秘めた小型モデルです。非埋め込みパラメータわずか30億（3B）でありながら、主要なエージェント検証において、3倍の体量を持つQwen 3.5 9Bや4倍規模のGoogle Gemma 4（12B）を凌駕するスコアを叩き出しました。

レイヤーを周回させて思考を深める構造

Nanbeige 4.2の強さを支えているのが、同一レイヤーを再利用する「ループ型Transformer（Looped Transformer）」です。

通常のTransformerはデータを各層に1回ずつ通して処理を終えます。一方、Nanbeigeは同じネットワーク層を複数回再利用し、内部状態をループさせて計算を重ねます。パラメータ数を一切増やさずに、モデルの実質的な計算深度を引き上げる仕掛けです。

開発陣はこのアーキテクチャを用い、28Tトークンという膨大なデータでゼロから事前学習を行いました。3Bモデル全体のファイルサイズは約8GBに収まっており、一般的な市販グラフィックボードでそのまま動作します。公開直後からコミュニティの注目を集め、動画レビューによると公開後わずか2日でHugging Faceでのダウンロード数は4000回を突破しました。

後学習では、実環境と合成環境を組み合わせたタスク資産を活用。思考プロセス（Think）と通常出力（Non-Think）の双方に適用する2段階のRLHFや、思考の冗長さを抑える長さ制御RL、プロセスマネーを取り入れたエージェント強化学習を導入し、長時間の実行でも破綻しにくい安定性を確保しています。OpenClawなどのフレームワークと組み合わせることで、ローカルでの個人秘書やリサーチ代行として機能します。

9Bや12Bモデルを相手に下克上

各ベンチマークのスコアを見ると、サイズ対性能の高さが際立ちます。

SWE-bench VerifiedやSWE-bench Proといったソフトウェア開発テスト、Terminal Bench、MCP Atlas、Claw Evalなど多様なツール利用テストにおいて、同クラスのQwen 3.5 4Bはもちろん、3倍の規模を誇るQwen 3.5 9Bを軒並み上回りました。

高度な推論と知識を問うGPQA DiamondやHumanity’s Last Examでも、4倍近い規模のGemma 4（12B）に対して互角以上の戦いを見せています。ローカルPCで動くサイズとしては、現在最も費用対効果の高い選択肢の一つと言えます。

なぜ重要か

個人開発者や機密データを扱うユーザーにとって、Nanbeige 4.2は「実用的なエージェントを自分の手元で動かす」現実的な解となります。高額なクラウドAPIを契約したり社内コードを外部に預けたりすることなく、手元のゲーミングPCでバグ修正やオフィス業務の自動化を任せられます。

業界全体にとっても、パラメータ数の肥大化に頼らず、再帰的な計算ループによってエージェント性能を引き出せることを実証した意義は大きいです。エッジ端末向けAIの進化において、アーキテクチャの工夫がモデルサイズ以上の成果を生む道筋を示しました。

この設計方針は非常に現実的だと評価できます。同一レイヤーを繰り返し通すため、推論速度は従来の3Bモデルより遅くなる傾向がありますが、マルチステップの指示を正しくやり遂げるエージェントタスクにおいては、高速に間違えるよりも、少し時間をかけてでも正確に完遂してくれる方がはるかに価値があるからです。