OpenAI、最先端AIの外部第三者評価フレームワークを公開　思考プロセスの直接検証も

最先端 AI の安全性を開発元が自ら保証することには、常に利益相反の懸念がつきまといます。モデルの賢さが増し、能力を意図的に隠すような挙動すら議論されるなか、外部の目を入れる仕組みの整備が急務となっています。

OpenAI はフロンティアモデルにおける第三者評価の枠組みを公表しました。GPT-4 以降に進めてきた外部連携の手法を整理し、GPT-5 やオープンウェイトモデルの gpt-oss、ChatGPT Agent で実施された具体的な検証プロセスを明かしています。

ガードレールを外し、思考ログまで外部に開示

OpenAI が示す外部評価は大きく 3 つの形態に分かれます。

1 つ目は重要リスクに対する独立した能力評価です。バイオセキュリティやサイバー攻撃、自己改善、さらには規制の目をかいくぐる欺瞞行為などを対象とします。GPT-5 の検証では、ベースの潜在能力を測るためにあえて安全フィルターを解除したモデルや、初期チェックポイントが提供されました。

さらに一部の評価機関には、思考プロセスを示す思考チェーンへの直接アクセスも許可されました。モデルがテストを認識して意図的に能力を低く見せかける挙動を検知するためです。METR による長期タスク評価や、SecureBio によるウイルス関連能力テストなどがこれに含まれます。

2 つ目は方法論のレビューです。gpt-oss の検証では、悪意ある微調整によって最悪ケースでどこまで危険な能力が引き出されるかを評価する必要がありました。膨大な計算資源を要するため、外部機関が独自に追試するのではなく、OpenAI の実験手順やデータを共有して手法の妥当性を検証する形をとりました。

3 つ目は領域専門家による検証です。ChatGPT Agent や GPT-5 では、専門知識を持たない初心者がモデルの指示によって危険な作業をどの程度実行可能になるかという初心者引き上げリスクを、バイオ分野の専門家が実務に即して測定しました。

なぜ重要か

今回の発表で評価できるのは、従来のブラックボックス型レッドチーム演習から一歩踏み込み、安全対策を外したモデルや思考ログの開示にまで踏み切った点です。高度な推論モデルに対しては、通常のチャット画面越しにプロンプトを試すだけでは潜在的なリスクを捉えきれないという現実的な課題に対応しています。

モデルを採用する企業や開発者にとっても、公式の安全宣言だけでなく、METR や Apollo Research などが公表する独立レポートを通じて実態を把握できる価値は小さくありません。

ただし、課題も残されています。第三者レポートの公開には OpenAI による秘密保持と事実確認の事前承認が必要であり、完全な独立監査とは言えません。また、gpt-oss の事例のように、追試に必要なインフラが巨大すぎるために外部側が手法のチェックにとどまらざるを得ない点は、フロンティア AI 評価が抱える構造的な限界を示していると考えられます。