Anthropicの「Claude」、画像からの位置特定でプロを圧倒 誤差37kmで超人レベルに
Anthropicは情報活動におけるAI能力の評価レポートを公開した。「Mythos」モデルは6000枚の写真を用いた位置特定テストで中央値誤差37kmを記録し、トップクラスのGeoGuessrプレイヤーを凌駕。アカウント照合でも高い精度を示したため、同社は悪用防止の分類器を配備した。
Anthropicは情報活動におけるAI能力の評価レポートを公開した。「Mythos」モデルは6000枚の写真を用いた位置特定テストで中央値誤差37kmを記録し、トップクラスのGeoGuessrプレイヤーを凌駕。アカウント照合でも高い精度を示したため、同社は悪用防止の分類器を配備した。
Anthropicが公開した8月のリスク報告書によると、内部主力モデル「Model 2」はMythos 5を上回ったものの進化幅は縮小しており、RSPの閾値には届いていません。蒸留防止を通常業務として投入する一方、既存ベンチマークの測定限界を認めつつ、自己改善(RSI)の初期加速兆候を確認したとしています。
米英などファイブアイズ各国のサイバーセキュリティ機関が共同警告を発表し、フロンティアAIがサイバー攻撃の速度と規模を劇的に変えると警告した。攻撃能力が防衛を凌駕するまでの期間は「数年ではなく数カ月」とされ、旧世代システムが最大の標的になるという。情報同盟がAIの脅威で足並みを揃えて警告するのは前例がなく、危機感が急速に高まっている。
Anthropicのダリオ・アモデイCEOとGoogle DeepMindのデミス・ハサビスCEOが、G7サミットの非公開会合で米国主導のAI国際連合設立を提唱した。先端モデルの管理や中国を除外した半導体貿易などの連携を提案。Anthropicが最新モデルの輸出規制に直面する中、国際的なルール策定を急ぐ動きだ。
米政府は安全保障上の懸念を理由に、外国籍者による「Fable 5」および「Mythos 5」へのアクセス停止を命じる輸出管理指令を発出した。これに伴い Anthropic は全顧客向けに両モデルの提供を停止した。政府は潜在的な脱獄リスクを指摘したが、同社は極めて限定的で他社モデルと同等水準だと反論している。