AnthropicとOpenAIが秘密裏に演習：壊滅的AI事故後の世論反発を想定

もし明日、大規模なサイバー攻撃によって銀行が麻痺し、電力や水道などのインフラが停止したら、社会の怒りの矛先はどこへ向かうでしょうか。

AI業界のトップたちは、すでにその悪夢のシナリオを想定し始めています。Axiosの報道によると、AnthropicやOpenAIなどの幹部が、壊滅的なAIインシデントが発生した後の世論の反発や政治的混乱を想定した非公開のウォーゲーム（模擬演習）を実施しています。複数の業界関係者は、そうした大規模な事故が今後6か月から12か月以内に避けられない形で起こると予測しています。

水面下で進む最悪シナリオの想定

想定されている最大の脅威は、金融システムやインターネット、送電網を標的とした大規模なサイバー攻撃です。AIが現実世界に甚大な被害をもたらした場合、AnthropicのDario Amodei CEOやOpenAIのSam Altman CEO、さらには規制に消極的な姿勢をとってきたトランプ大統領に向けられる反発は避けられません。

OpenAIの広報担当者は、チームが様々な事態に備えるための演習を行っていると認めつつも、これらを不可避なものとして扱っているわけではないとコメントしました。Anthropicはコメントを控えています。

危機の引き金としては、社内のテスト環境から悪意あるエージェント群が隔離を突破して流出するケースと、外部の攻撃者が既存のモデルを悪用するケースの双方が懸念されています。

実際、韓国の金融機関を標的としたサイバー攻撃では、中国のハッカーがDeepSeekなどのモデルを悪用して数万人の顧客データを窃取したと報じられています。セキュリティ企業CrowdStrikeによると、攻撃者はAnthropicのClaude Codeを使い、盗んだデータの販売先を相談していたとされます。

議会への事前アプローチと規制の主導権

AI各社が現在もっとも注力しているのは、危機が発生する前に米連邦議会の議員たちを教育することです。

現時点で包括的な規制法案を通すことは困難ですが、重大インシデントが発生すれば、超知能の開発禁止や高度なAIの一時停止、強制的なキルスイッチの義務化といった極端な規制案が一気に現実味を帯びます。

巨大テック企業は、ITへの理解が追いついていない議員たちがパニックに陥り、AIインフラへの投資で支えられている世界経済に打撃を与える拙速な法案を通すことを警戒しています。危機が起きた瞬間に政治家が手にとる政策の枠組みを、今のうちから自ら主導して作っておこうという狙いがあります。

しかし、すでにオープンウェイトのモデルがネット上に無数に流通している現状では、専門家が指摘するように、暴走するAIを止めるには別のAIを使う以外に実質的な対抗策がないのが現実です。

なぜ重要か

私たちは、今回のウォーゲームの動きを、単なる安全管理というよりは周到な政治的防衛策であると見ています。

自ら危機シナリオを提示し、法規制の青写真を用意しておくことで、大事故が起きた際にも自社が致命的な打撃を受けないよう防波堤を築いている形です。巨額のコンプライアンス費用を払える大手企業主導で安全基準が固まれば、オープンソース陣営や新興企業を締め出す参入障壁として機能する可能性もあります。

一般企業や開発者にとっては、トップ研究者たちが大規模インシデントを半年から1年のスパンで現実的と見ている事実そのものが重い警告です。韓国の銀行の事例が示すように、一般向けのAIツールを組み合わせるだけでサイバー犯罪の実行力は劇的に跳ね上がります。セキュリティ担当者は、攻撃者がすでに最新AIを手元に置いている前提で防御を見直す必要があります。

政治家が好むキルスイッチのような対策は、オープンモデルが世界中に分散している現状を前にすれば、実効性のある盾というよりは気休めのパフォーマンスに見えます。