OpenAIが「Deep research」のシステムカード公開、4大リスクは中程度と評価

AI にウェブを自律巡回させ、PDF を読ませ、さらにはコードを書いて実行させる。これはリサーチ作業を劇的に変える一方で、安全面では巨大な課題を突きつけます。

OpenAI は、Pro ユーザー向けに展開している Deep Research 機能に関する安全性評価レポート「システムカード」を公開しました。

検索に特化した初期版 o3 が駆動

Deep Research の中核を担っているのは、ウェブブラウジング向けに特別に調整された OpenAI o3 の初期バージョンです。

単発のキーワード検索とは異なり、このモデルは複数のステップにわたる調査を自律的に進めます。インターネット上の大量のテキスト、画像、PDF を読み解き、得られた情報に応じて柔軟に検索方針を変更できるのが特徴です。

さらに、ユーザーがアップロードしたファイルを読み込み、Python コードを記述・実行してデータを分析する能力も備えています。

自律ブラウジングがもたらす新たな脅威

ネット上を自由に探索できるエージェントは、悪意あるコンテンツに直接触れるリスクを伴います。OpenAI が策定した Preparedness Framework によるリスク評価では、CBRN、サイバーセキュリティ、説得力、モデル自律性の全4項目で「Medium（中）」の判定となりました。

特に注意が払われているのがプロンプトインジェクションです。ウェブページ内に仕込まれた悪意ある指示をモデルが読み込み、意図しない動作を引き起こす危険性があります。

これに対し OpenAI は、外部レッドチームによる検証や追加の自動・手動テストを実施しました。ウェブ上の個人情報の保護を強化するとともに、ネット検索時に遭遇する攻撃的プロンプトに耐えられるよう防御訓練を施したとしています。

なぜ重要か

膨大な市場データや学術資料を日常的に読み解くアナリストや開発者にとって、思考しながらネットを調べ直してくれるエージェントは極めて強力な武器になります。長文レポートのまとめ役として今すぐ試す価値は十分にあります。

業界全体から見れば、単に情報を引っ張ってくるだけの RAG の時代から、高度な推論モデルがツールを駆使して自律行動するエージェントの時代へ完全にシフトしたことを示しています。

自律性やサイバーリスクを Medium と評価した OpenAI の姿勢は現実的だと評価できます。しかし、未知のウェブページを読みながらコードを実行する仕組みである以上、インジェクション対策をモデルの学習だけに頼るアプローチには潜在的なリスクが残ります。実用性と堅牢性のバランスをどう保つかが、今後のエージェント開発の大きな論点になりそうです。