Anthropic、内部主力モデル「Model 2」のリスク評価を公開 自己進化加速の兆候も
Anthropicが公開した8月のリスク報告書によると、内部主力モデル「Model 2」はMythos 5を上回ったものの進化幅は縮小しており、RSPの閾値には届いていません。蒸留防止を通常業務として投入する一方、既存ベンチマークの測定限界を認めつつ、自己改善(RSI)の初期加速兆候を確認したとしています。
Anthropicが公開した8月のリスク報告書によると、内部主力モデル「Model 2」はMythos 5を上回ったものの進化幅は縮小しており、RSPの閾値には届いていません。蒸留防止を通常業務として投入する一方、既存ベンチマークの測定限界を認めつつ、自己改善(RSI)の初期加速兆候を確認したとしています。