米政府とテック大手が初演習：AIシステム標的のサイバー攻撃を模擬

従来のシステムであれば、サイバー攻撃を受けた際の初動対応は明確でした。ネットワークを遮断し、パッチを適用し、ログを解析する。しかし、標的となったのが基幹業務を動かすAIモデルそのものだった場合、これまでの手順書は通用しません。

先週、米国土安全保障省のサイバーセキュリティ・インフラセキュリティ庁傘下の組織であるJCDCが、バージニア州レストンにあるマイクロソフトのオフィスで4時間の机上演習を実施しました。AIシステムへのサイバー攻撃を想定した、政府と民間企業による合同シミュレーションは今回が初めてです。

会場には米政府機関や海外政府の関係者に加え、マイクロソフト、OpenAI、エヌビディア、AWS、Palantir、Palo Alto Networksなどから50人以上のAIおよびセキュリティ専門家が集まりました。

従来の手法が通用しないAIの脅威

机上演習の慣例に従い、具体的にどのような攻撃シナリオがシミュレーションされたかは非公開となっています。関係者によれば、現在確認されている脅威の実態を共有し、攻撃者がAIを利用して攻撃を高速化・大規模化させた場合にどのような手口が生まれるかを推演することが目的でした。

演習に参加した専門家らは、AIシステムへの攻撃に対処するには、従来のハッキング対策とは根本的に異なる手順が必要になると指摘しています。コードの脆弱性を修正するだけでなく、モデルの重みデータの改ざんやプロンプト注入といったAI特有のリスクに対応しなければならないためです。

さらに今回の演習には、有事の際の緊急連絡網を確立するという極めて実用的な狙いもありました。JCDCの担当者によると、AI関連の重大インシデントが発生した際に、政府と民間企業の双方が「誰に連絡を取るべきか」を特定できたことが大きな成果だったといいます。この知見は、年内に発表予定のAIインシデント対応プレイブックに反映される予定です。

なぜ重要か

この演習で最も評価できる点は、派手な防御ツールの開発よりも先に、緊急時の連絡網と対応体制の整理に着手したことだと考えられます。AI技術が急速に普及する一方で、多くの企業ではモデルの異常が起きた際にAIエンジニアが対応するのかセキュリティ担当者が動くのかすら明確になっていません。

企業や開発者にとっては、AIセキュリティが研究段階の話ではなく、具体的な運用基準として迫りつつあることを示しています。年内に公式の対応ガイドラインが公開されれば、AIを本番環境で運用する企業にはインシデント報告や監査の対応が求められる可能性が高いでしょう。

一方で、一握りの巨大テック企業だけが4時間の机上演習を行ったところで、根本的な解決には程遠いという懸念も残ります。現実の攻撃者は、防壁の厚い大手ではなく、オープンソースやAPIを安易に連携させている中小企業やサードパーティの脆弱性を突いてきます。全体のエコシステムを守るには、まだ多くの課題が残されています。