Moonshot AI、1兆パラメータの「Kimi K2」をオープンソース公開

Kimi K2 は、Moonshot AI がオープンソースとして公開した MoE（Mixture-of-Experts）型の言語モデルだ。総パラメータ数は1兆、推論時にアクティブになるパラメータは320億で、一般的な会話よりも自律型エージェントやコーディング処理に特化して構築されている。

配布形式は2通りあり、開発者や研究者向けの基盤モデルと、チャットやエージェントタスク向けに調整された Kimi K2-Instruct が提供される。

ベンチマークとエージェント機能

実際のコーディング課題に近い LiveCodeBench では 53.7% のスコアを出し、DeepSeek-V3 の 46.9% や GPT-4.1 の 44.7% を上回った。

ソフトウェア改修能力を測る SWE-bench Verified では 65.8% を記録し、一部のプロプライエタリな商用モデルに匹敵する水準を示している。

数学的推論を評価する MATH-500 でも 97.4% を記録し、GPT-4.1 の 92.4% を超える結果を出した。

学習を安定化させた MuonClip 手法

1兆パラメータ規模の学習では数値の破綻が起きやすく、クラスタを停止して再起動するコストが大きな課題だった。

Moonshot AI は業界標準の AdamW ではなく、MuonClip と呼ぶ独自オプティマイザを導入した。クエリとキーの射影行列を再スケーリングすることで、学習中の不安定さをゼロに抑え込んだと説明している。

モデル重みの公開と並行して API も提供されており、キャッシュヒット時の入力は100万トークンあたり0.15ドル、出力は2.50ドルという低価格に設定されている。

なぜ重要か

自律エージェントや開発支援ツールを自前で構築したいエンジニアにとって、Kimi K2 は真っ先に検証すべき選択肢になる。高度なコード生成とツール実行能力をオープン重みで利用できる利点は大きい。

これまで最高峰のエージェント機能は高額な商用 API に依存していたが、同等性能のモデルがオープンかつ低コストで使えるようになったことで、商用ベンダーへの価格引き下げ圧力が一気に強まりそうだ。