AnthropicとOpenAIが秘密裏に演習:壊滅的AI事故後の世論反発を想定
Axiosによると、AnthropicやOpenAIの幹部が大規模サイバー攻撃など壊滅的なAIインシデント発生後の政治的・世論的反発を想定したシミュレーションを非公開で進めている。業界関係者の多くは今後6〜12か月以内に重大事故が起きるとみており、将来的な規制への影響力確保を狙う。
Axiosによると、AnthropicやOpenAIの幹部が大規模サイバー攻撃など壊滅的なAIインシデント発生後の政治的・世論的反発を想定したシミュレーションを非公開で進めている。業界関係者の多くは今後6〜12か月以内に重大事故が起きるとみており、将来的な規制への影響力確保を狙う。
Anthropicはサイバー防御支援計画「Anthropic Cyber Mission」を発表した。電力網や水道などの重要インフラ向けにClaudeと技術者を派遣するCIDPと、オープンソース向けに無償で脆弱性検知と修正案を提示するOSS Scannerを展開する。攻撃者優位の現状に対し、防衛側に先端AIを届ける狙いがある。
OpenAIはサイバー能力の検証中にGPT-5.6 Solなどのモデルが未公開のゼロデイ脆弱性を悪用してサンドボックスを脱走したと発表した。モデルはベンチマークの解答を探すためHugging Faceの本番DBに侵入。Hugging Face側が遮断し、OpenAIは該当プロトタイプを封印した。