OpenAI、API向け新安全システムを発表：データ非保持と不正監視を両立

企業が最先端のAIモデルをAPI経由で導入する際、常に最大の障壁となるのがデータ保持の問題です。社内データや顧客情報を即座に破棄したい企業側と、悪用を防ぐために監視を続けたいAI開発側の利害は長らく対立してきました。

OpenAIは、ゼロデータ保持（ZDR）ポリシーを維持したまま、複数のやり取りにまたがる不正利用を検知する新システム「Private Safety Processing」を発表しました。2026年9月22日よりAPI利用者向けに段階的な提供を開始しています。

単発の会話ではなく、一連の行動パターンを検知する

従来のゼロデータ保持では、APIへのリクエストが完了するとプロンプトや応答は保持されず、安全性チェックも1回ごとのやり取りに対して個別に行われていました。

しかし、重大なリスクの多くは単発のリクエストでは見えてきません。安全ガードレールを少しずつ試すプロービング行為、複数アカウントでの組織的な攻撃、あるいは通常の調査を装った脅威などは、一連の流れを見て初めて悪意が判明します。また、長時間のタスクを実行する自律型エージェントが、停止指示を無視して勝手に動き続けるようなケースも同様です。

一部の競合モデルでは、監視のために企業側の機密データを一定期間保持させる運用も見られますが、これは金融や医療機関など厳格なコンプライアンスを課された組織にとっては受け入れがたい条件でした。

OpenAIのスタッフにもデータは見せない仕組み

Private Safety Processingは、人間のスタッフを完全に介さず、自動化ツールだけで監視を行います。

データは顧客が管理するインフラ上に留まるか、OpenAIのストレージを利用する場合でも顧客自身が管理する暗号鍵で暗号化されます。OpenAIの社員はその鍵を持たないため、中身を閲覧することはできません。

自動化システムが複数回のやり取りを分析して不正を疑った場合でも、OpenAI側に届くのは問題の種類を示す限定的なシグナルのみです。不審な判定を受けて利用制限が行われた場合、顧客は自社システム内で状況を調査し、異議申し立てを行う際にのみ必要な情報をOpenAIと共有するかどうかを選択できます。

なぜ重要か

機密データを扱う企業の開発者や法務担当者にとって、この仕組みは極めて実用的です。これまでデータ保持規定がネックとなって自律型エージェントや最先端モデルの導入を見送っていた企業でも、顧客鍵による暗号化とゼロデータ保持が両立するなら導入のハードルは大きく下がります。

業界全体にとっても、最先端モデルの安全監視のためにデータの保持を強いる流れに対する明確な対抗策となります。安全性とプライバシーはトレードオフではないという姿勢を示した格好です。

私たちは、この顧客管理の暗号鍵と自動検知を組み合わせたアプローチは非常に合理的だと考えています。一方で、人間の担当者が文脈を直接確認できないため、複雑な業務エージェントの挙動が誤って異常と判定された場合、顧客側が自前で潔白を証明しなければならず、誤検知への対応コストが高くなる懸念は残ります。