OpenAI、セキュリティ助成の成果を報告：Teamや企業版の無償提供も拡大

ハッカーが悪意あるコードの生成やフィッシング攻撃にAIを悪用する懸念が高まるなか、防御側の現場ではAIがどのように使われているのでしょうか。

OpenAIは、2023年に立ち上げた「Cybersecurity Grant Program」の支援実績を公開しました。この助成プログラムにはこれまでに600件を超える応募が寄せられており、最先端のAIモデルをサイバー防衛担当者に提供し、防衛技術の高度化を支援することを目的としています。

モデル自体の防御と機密保護

今回紹介されたプロジェクトの中で特に注目されるのは、LLMそのものを標的とした攻撃への対策です。

カリフォルニア大学バークレー校のDavid Wagner教授の研究室は、大人気モデルにとって最大の弱点の一つであるプロンプトインジェクション攻撃への防御技術を研究しています。

また、ダートマス大学のAdam Breuer教授のチームは、モデルとの対話を通じて学習データを復元しようとする攻撃の阻止に取り組んでいます。従来の防御策はモデルの精度低下や訓練時間の増大というトレードオフを伴いましたが、同研究室は精度や効率を落とさずにプライバシーを守る手法を開発しています。

Mithril Securityは、TPM（トラステッド・プラットフォーム・モジュール）を用いたセキュアエンクレーブ環境でGPU上のモデルを動かすオープンソースの実証実験を公開しました。インフラの管理者であっても推論データにアクセスできない仕組みで、コードとホワイトペーパーがGitHubで公開されています。

脆弱性の検出から自律型防衛エージェントまで

モデル自体の安全確保と並行して、ネットワークやコードの防御にAIを活用する試みも進んでいます。

ボストン大学の研究チームは、悪用される前にコードの脆弱性を自動検出して修正するLLMの研究を進めています。また、スタートアップのCoguardは、セキュリティ事故の主因となるソフトウェアやネットワークの設定ミスを、従来の静的なルールではなくAIで検知する仕組みを構築しています。

カリフォルニア大学サンタクルーズ校（UCSC）では、侵入者に自律的に対処するサイバー防衛エージェントに基盤モデルを活用する研究を行っており、強化学習アプローチとの比較検証を進めています。MIT CSAILのチームも、CTF（旗取り合戦形式のハッキング演習）やレッドチーム演習において、計画・実行・報告をループさせる自動化手法を探っています。

現場の実務において、サイバー防衛担当者がChatGPTを使う主な用途は、専門的なログの平易な言葉への翻訳、調査用スクリプトの作成、ログパーサーの生成、インシデント報告書の要約などです。OpenAIはこれまで無料のChatGPT Plusを提供してきましたが、今後はウガンダの研究・教育ネットワーク（RENU）との連携を皮切りに、ChatGPT TeamやEnterpriseアカウントの無償提供へ拡大するとしています。

なぜ重要か

私たちは、今回の支援事例が非常に現実的で地に足のついたアプローチを示していると考えます。AIによる防衛というと万能の自動防御システムを想像しがちですが、現場が本当に求めているのは、膨大なログの解読や設定ミスの見落としといった泥臭い作業の効率化だからです。

開発者や現場のセキュリティ担当者にとって、ログ解析やスクリプト生成にLLMを導入することは今すぐに試す価値があります。専門的な設定や高額な投資を行わなくても、調査時間を大幅に短縮できる実用性があります。

一方で、業界全体としては依然として課題が残ります。防御側がコードの脆弱性を瞬時に見つけて修正できるということは、攻撃者側も同じツールを使って未公開の脆弱性を量産できることを意味するからです。さらに、自律型防御エージェントに頼る場合、基盤となるLLMへのプロンプトインジェクション攻撃が防ぎきれなければ、防御システム自体が突破口になりかねないという構造的な危うさも抱えています。