OpenAIが「Red Teaming Network」設立、外部専門家とAI安全性を継続検証へ

大規模なAIモデルを公開する前に、専門家が悪用や危険な挙動を誘発して脆弱性を洗い出す作業をレッドチーム（Red Teaming）と呼びます。これまでOpenAIは、主要な発表の直前に外部専門家を招集して突貫でテストを実施してきました。今回、その仕組みを常設化する方針を打ち出しました。

OpenAIは「レッドチーミング・ネットワーク（Red Teaming Network）」の公募を開始し、世界中の専門家に対して自社モデルの安全性評価への参加を呼びかけました。募集締め切りは12月1日に設定されています。

単発テストから常設ネットワークへ

これまでもDALL-E 2やGPT-4などの公開前に外部専門家がテストを行っていましたが、基本的にはリリース前の単発の取り組みでした。

今回のネットワーク設立により、モデル開発の初期段階から配備後に至るまで、ライフサイクルの各段階で継続的に外部の知見を採り入れられる体制へと移行します。

参加者はすべてのモデルをテストするわけではなく、プロジェクトの性質に合わせて選定されます。また、AIに関する高度な技術知識は必須ではなく、特定分野の深い専門知識や、地域・言語の多様性を重視して選考するとしています。

年間5時間から参加可能、報酬とNDAの条件

参加のハードルは低めに設定されています。拘束時間は個人の都合に合わせて調整可能で、年間わずか5時間から10時間程度の関与でも歓迎するとしています。

レッドチームプロジェクトに参加した時間に対しては報酬が支払われます。また、依頼されたテスト以外でも、メンバー同士でテスト手法に関する意見交換が可能です。

ただし、参加にあたっては秘密保持契約（NDA）の締結が必須であり、一部の内容は無期限で非公開となる可能性があります。知見の一部はシステムカードなどで公表されるものの、個人の裁量で研究内容を外部に発信することは制限されます。

なぜ重要か

この取り組みは、OpenAIにとって極めて現実的なリスク管理の拡大策である一方、限界も抱えていると私たちは考えます。

各分野の専門家にとっては、未公開の最先端AIにいち早く触れ、その安全指針に直接関与できる貴重な機会です。報酬が発生し、年間数時間から参加できる柔軟さは魅力的ですが、厳格なNDAがあるため、研究成果を自身の論文として自由に発表したい学者にとっては参加しづらい制約となります。

業界全体で見れば、AIのリスクはもはやプログラミングの不具合にとどまらず、生物兵器、偽情報、法解釈など多岐にわたっています。社内のエンジニアだけで防ぐのは不可能であり、専門家プールを常備する手法は競合他社にも波及していくはずです。

しかし、企業から報酬を受け取りNDAに縛られるテストは、本質的には「外部委託による製品検査」の域を出ません。中立的な第三者監査とは異なるため、どの脆弱性を公表し、どのリスクを修正したとみなすかの主導権はOpenAI側に残ります。この仕組みだけで社会的な信頼を完全に獲得するのは難しいように見えます。