Anthropic、内部主力モデル「Model 2」のリスク評価を公開　自己進化加速の兆候も

AIの性能向上が続く一方で、それを測るための「定規」が限界を迎えつつあります。

Anthropicが公開した8月のリスク報告書で、同社の内部主力モデルとなっている「Model 2」の評価が明らかになりました。Model 2は前世代のMythos 5を上回っているものの、Opus 4.6からMythos Previewへの移行時のような飛躍は見られず、進化幅は縮小傾向にあります。同社自身も、モデルがRSP（責任あるスケーリング方針）の危険閾値には達していないと判断しています。

進化の鈍化と測定精度の限界

性能そのもの以上に目を引くのは、周辺のエンジニアリングです。Anthropicは他社による蒸留を防ぐ「蒸留防止」を、すでに通常業務として継続的に投入しています。

さらに、既存のタスク型ベンチマークでは能力向上を正確に測定できなくなっており、評価の精度不足が露呈しています。その一方で、再帰的自己改善（RSI）の分野では「加速の初期兆候」を確認したと記されており、詳細は伏せられたままです。

なぜ重要か

今回の報告は、最先端AI開発が直面している新たな壁を浮き彫りにしています。

従来の手法による世代交代の飛躍幅が狭まるなか、各社は蒸留防止などの防衛的な開発にも多くのリソースを割かざるを得なくなっています。

それ以上に深刻なのは評価の限界です。従来のベンチマークが通用しなくなる中でAIが自己改善の兆候を見せ始めているとすれば、今後の最大の課題は能力向上そのものよりも、それを正しく測る新たな測定手法の確立にあると考えられます。