OpenAIとマイクロソフト、国家主導の攻撃者5組織のアカウントを停止

AIが勝手に未知のサイバー兵器を作り出すのではないかという不安が広がる中、現実の国家主導型ハッカーたちはすでにChatGPTを業務に取り入れていました。ただし、その使い道は想像以上に地味なものでした。

OpenAIはマイクロソフトの脅威インテリジェンス部門と連携し、国家支援を受ける5つのサイバー攻撃グループに関連するアカウントを停止したと発表しました。対象となったのは、中国、イラン、北朝鮮、ロシアに関与するグループです。

ハッカーもAIを新人アシスタントとして使う

確認されたグループは、中国系のCharcoal TyphoonとSalmon Typhoon、イランのCrimson Sandstorm、北朝鮮のEmerald Sleet、ロシアのForest Blizzardです。

彼らの活動内容を調べると、Charcoal Typhoonはセキュリティツールや企業の調査、コードのデバッグ、フィッシング用の文章作成にAIを利用していました。Salmon Typhoonは技術論文の翻訳や、システム上でプロセスを隠蔽する一般的な手法の調査を行っていました。

また、Crimson SandstormやEmerald Sleetはフィッシングメールの文面作成や基礎的なスクリプト作成、脆弱性情報の収集に利用し、ロシアのForest Blizzardは衛星通信プロトコルやレーダー技術に関する公開情報の調査にAIを使っていました。

OpenAIとマイクロソフトの両者は、攻撃者がこれまでにない斬新なAI攻撃手法を生み出しているわけではないと説明しています。攻撃者たちにとって、大規模言語モデルは検索エンジンや既存のツールで行っていた雑務を効率化する生産性ツールに過ぎないのが実態です。

アカウント遮断とプラットフォーム側の防衛策

OpenAIは特定されたアカウントをすべて停止しました。同社の調査チームやセキュリティチームは、自社モデルを活用して不審な挙動を追跡し、モデルの安全対策を順次強化しています。

マイクロソフトも国家主導のサイバー攻撃組織に対する基本原則を発表しました。自社のAIサービスやAPIが悪用された場合は即座にアクセスを遮断するほか、他社のAIサービスが悪用されている痕跡を見つけた場合にも速やかに情報共有を行う方針を掲げています。

なぜ重要か

今回の発表は、AIによってサイバー攻撃が即座に破滅的なレベルへ進化するという過度な恐怖論に対する、冷静な現状報告といえます。一般ユーザーや企業にとって、現時点で警戒すべきなのは映画のような自律型サイバー兵器ではなく、より自然な日本語や英語で届く標的型フィッシングメールや、攻撃準備の迅速化です。

業界全体にとっては、巨大AIプラットフォームと大手セキュリティ企業が連携し、悪用者を特定して業界内で情報共有する枠組みを作った点に大きな意義があります。

ただし、クラウド側のアカウント停止だけで国家支援グループの活動を完全に止めるのは困難です。潤沢な資金を持つ攻撃組織は別のアカウントをいくらでも取得できますし、検閲のないオープンソースのローカルモデルへ移行することも容易だからです。防衛側が主導権を握り続けるためには、単なるアカウントBANにとどまらない継続的な監視が必要です。