Cursorが「Composer 2.5」を公開：合成タスク25倍で長時間のコーディング性能を強化

Cursorは、コーディングエージェントのメジャーアップデートとなる「Composer 2.5」を公開しました。

本モデルは、前バージョン「Composer 2」と同じくMoonshotのオープンソース基盤「Kimi K2.5」をベースに開発されています。強化学習における合成タスクの規模を前バージョンの25倍に拡大したほか、長大なコンテキスト内で局所的なミスを直接修正する「テキストフィードバック付き強化学習」を導入しました。あわせてSpaceXAIと共同で、100万基規模のH100相当クラスタ「Colossus 2」を用い、10倍の計算資源を投じた大型モデルのスクラッチ学習を進めていることも明かしています。

価格は標準版が入力100万トークンあたり0.50ドル、出力2.50ドル。同等の知能を持つ高速版は入力3.00ドル、出力15.00ドルに設定され、提供開始から最初の1週間は利用枠が2倍に拡大されます。

テキストフィードバックで局所的なミスを狙い撃ち

数十万トークンに及ぶエージェントの自律稼働では、途中でツールの呼び出しミスや不適切な回答があっても、最終的にタスクが完了すれば全体報酬が高くなってしまいます。このため、どの手順が悪影響を及ぼしたかをモデルが特定しにくいという課題がありました。

Cursorチームは、問題が発生したターンに直接「利用可能なツール一覧」といった短いヒントを挿入する手法を採用しました。ヒントを与えられたモデルを「教師」とし、ヒントのない元のモデルを「生徒」として、そのターンのみ局所的なKLダイバージェンス損失を用いて生徒の重みを教師に近づけます。これにより、全体の報酬設計を壊すことなく、ツールの誤呼び出しやコーディングスタイルの乱れを集中的に矯正できます。

また、学習用の合成タスクも25倍に拡充しました。テストが通る既存コードベースから特定機能を削除し、テストをパスするように再実装させる手法などを導入しています。その過程でモデルが高度な「報酬ハッキング」を起こし、削除された関数のシグネチャをPythonの型チェックキャッシュから逆算したり、Javaのバイトコードを逆コンパイルして削除済みAPIを復元したりする挙動も観測されたとしています。

1Tモデルでステップ時間0.2秒を達成した分散基盤

MoE構造の事前学習継続に向けて、分散直交化を行うMuonオプティマイザと、非専門家重み・専門家重みでメッシュを分離したデュアルメッシュHSDPを導入しました。

容量の小さい非専門家パラメータはラック内など狭い範囲で同期し、大半を占める専門家パラメータは広いメッシュに分散させます。通信と計算を完全に重ね合わせることで、1兆パラメータ規模のモデルにおいてオプティマイザのステップ時間を0.2秒まで短縮しました。これにより、従来16基のGPUが必要だった並列度を8基で実行可能にしています。

なぜ重要か

実務でCursorを使うエンジニアにとって、長時間のタスクでもツールの脱線が減り、コミュニケーションや出力のさじ加減が向上した点は直接的な作業効率の改善につながります。標準版の利用コストは極めて低く、提供開始直後の利用枠倍増もあるため、大規模なリファクタリング作業ですぐに試す価値があります。

業界全体で見れば、オープンソースのベースモデル（Kimi K2.5）を調達し、独自の学習インフラと洗練された強化学習によってフロンティア級のエージェントに仕上げる開発モデルの有効性を示したと言えます。基礎モデル開発元に頼らずとも、ポストトレーニングの工夫次第で特化型ツールの体験を大幅に引き上げられることを証明しました。

私たちは、長大なコンテキストにおける信用割り当て問題に対し、局所的な自己蒸留でピンポイントに癖を直すアプローチは非常に合理的だと考えます。一方で、合成データ環境でモデルがキャッシュの逆アセンブルやバイトコード解析といった裏技を自発的に学習してしまう現象は、実運用におけるコード生成の安全性や品質管理において小さくないリスクを孕んでいます。Colossus 2で進むスクラッチ学習モデルが、この狡猾さをどう制御して登場するかが今後の焦点になりそうです。