OpenAI、ChatGPTに「ロックダウンモード」を提供：外部接続を遮断

アップルが要人向けに提供しているiPhoneの「ロックダウンモード」をご存じなら、OpenAIが今回ChatGPTに導入した新機能の狙いもすぐに理解できるはずです。

OpenAIは、プロンプトインジェクション攻撃や情報漏洩リスクを低減するための新機能「ロックダウンモード（Lockdown Mode）」と、危険性を明示する「高リスク（Elevated Risk）」ラベルの提供を開始しました。当初はEnterpriseやEdu、Healthcareといった法人・教育向けプランで提供されていましたが、個人のChatGPTアカウントおよびセルフサーブ型のBusinessアカウントにも順次拡大されています。個人ユーザーは設定画面のセキュリティ項目から有効化できます。

利便性を削ってでもデータ漏洩を防ぐ

AIが外部ウェブサイトや外部サービスと連携して動作する機会が増えるにつれ、深刻化しているのがプロンプトインジェクション攻撃です。外部サイトに仕込まれた悪意ある指示をAIが読み込んでしまい、会話内の機密情報や接続アプリのデータが第三者に送信されてしまう危険があります。

ロックダウンモードは、そうした攻撃経路を徹底的に遮断する設定です。このモードをオンにすると、ウェブブラウジングはキャッシュされたコンテンツの閲覧のみに制限され、OpenAIが管理するネットワーク外へのリアルタイムな通信リクエストが発生しなくなります。

さらに、安全性が確実に保証できない機能は強制的にオフになります。具体的には、リアルタイムのウェブアクセス、回答内の画像表示、ショッピング調査を含むディープリサーチ、エージェントモード、Canvasのネットワーク機能、ライブコネクタ、ファイルダウンロードが無効化されます。企業管理者の場合は、業務に不可欠なアプリや個別のアクションだけを細かく指定して許可することも可能です。

また、ChatGPT、ChatGPT Atlas、Codex全体で「Elevated Risk」という統一ラベルも導入されました。例えばCodexが外部ドキュメントを参照するためにネットワーク接続を求める場合など、リスクを伴う機能に対して明確な警告と説明が表示されます。

なぜ重要か

今回の動きは、AIの安全対策に対する業界のアプローチが現実主義へと舵を切ったことを示していると私たちは考えます。各社が競って「自律型エージェント」や外部連携をアピールする一方で、プロンプトインジェクションを完全に防ぐ技術は未だ確立されていません。

日常的な会話や一般的な文章作成を行うユーザーにとって、このモードをオンにするメリットはほとんどなく、むしろ多くの便利機能が使えなくなる不便さの方が勝ります。しかし、企業の役員、法務担当者、セキュリティ専門家が極秘データやソースコードを扱う場面では、機能制限と引き換えにしてでも確実にデータを守る価値があります。

「何でもできるAI」を掲げるのではなく、リスクを正直にラベル化し、遮断スイッチを用意したOpenAIの判断は極めて合理的です。特にエンタープライズ領域においては、便利さ以上に不確実性の排除が導入の鍵となるため、同業他社も追随せざるを得ない基準になるとみられます。