OpenAIがChatGPTに「Lockdown Mode」導入：プロンプト注入対策で一部制限

AI がウェブを自律的に巡回できるようになるにつれ、新たな脅威となっているのがプロンプトインジェクションです。ウェブページ上に悪意ある指示を潜ませておき、アクセスした AI を騙して利用者の機密データを外部へ持ち出させる手口が問題視されています。

OpenAI はこれに対抗するため、ChatGPT に「ロックダウンモード（Lockdown Mode）」の提供を開始しました。機密データを日常的に扱うユーザーや組織に向けた、最後の防衛ラインと位置づけられています。

機能を絞り込んでデータ流出を防ぐ

このモードの目的は、AI を騙す指示そのものを完全に排除することではありません。万が一悪意ある指示を読み込んでしまっても、データを外部へ持ち出せないよう、通信経路を遮断することに主眼が置かれています。

有効にすると、ChatGPT の挙動は大きく制限されます。リアルタイムのウェブ閲覧は停止され、アクセスできるのはキャッシュされたコンテンツのみになります。ウェブから画像を取得して回答内に表示することや、外部ファイルを自動でダウンロードして解析することも禁じられます。さらに、Deep Research や Agent Mode といった自律型の高度な機能は完全にオフになります。

一方で、画像生成機能や手動でのファイルアップロードは引き続き利用可能です。なお、会話のメモリ設定や共有設定、モデル学習にデータを利用するかどうかといった項目は、このモードを有効にしても変更されません。

この機能は、無料版を含む個人の対象アカウントや、セルフサービス式の ChatGPT Business 向けに順次開放されています。設定の「Safety and security」項目内にある「Advanced security」からオンにでき、特定のチャットでのみ一時的に解除することも可能です。

また同時に、アカウントに接続している端末やブラウザを一覧表示し、個別に、あるいは一括でサインアウトできるアクティブセッションマネージャーの導入も発表されました。一括サインアウトは完了まで最大 30 分ほどかかる場合があるとしています。

なぜ重要か

今回のロックダウンモードは、現行の大規模言語モデルにおいてプロンプトインジェクションを完全に防ぎ切るのは難しいという現実を、OpenAI 自身が事実上認めた格好だと捉えられます。

アップルが iPhone などに搭載している同名のセキュリティ機能と同様、利便性を大幅に削る代わりに安全性を担保するアプローチです。一般的なユーザーが普段使いでオンにする必要はまずありません。Deep Research など ChatGPT の強みが使えなくなるため、むしろ使い勝手は悪化します。

しかし、企業の法務担当者や金融アナリスト、機密性の高いコードや文書を扱う専門職にとっては、今すぐ試す価値のある安全策と言えます。AI に自律的なネット巡回をさせず、密閉された環境で社内文書の要約だけをさせたいケースに合致します。

業界全体が AI エージェントの自律性拡大を競うなか、OpenAI が敢えて手足を縛る選択肢を用意した意味は小さくありません。今後の法人向け AI では、どこまで賢く動けるかと同じくらい、危ない通信を確実に遮断できる設計が問われることになりそうです。