本文へスキップ
IFAI

業界動向

OpenAI、バイオ安全性の脱獄報奨金を5万ドルに倍増

公開 拡散指数 39

OpenAIは生物学分野のAI安全対策を検証する報奨金プログラムを恒久化すると発表した。事前定義されたバイオ安全性の課題を突破する「ユニバーサル脱獄」の報奨金を、従来の2万5000ドルから5万ドルへと引き上げる。参加には機密保持契約の締結が必要となる。

OpenAI、バイオ安全性の脱獄報奨金を5万ドルに倍増
画像:openai.com

AIをだましてスパムメールを書かせるのと、危険な生物兵器の製造手順を答えさせるのとでは、リスクの次元がまったく違います。

OpenAIは7月9日、これまでGPT-5.5向けに実施していた生物安全バグ報奨金プログラムを改編し、継続的なプライベートプログラム「OpenAI Bio Bounty Program」として常設化すると発表しました。

さらに注目すべきは賞金の増額です。事前定義された生物安全対策を完全に突破する「ユニバーサル・ジェイルブレイク(汎用的な脱獄手法)」を発見した場合の報酬が、従来の2万5000ドルから5万ドルへと倍増されました。

報奨金は倍増、対象はGPT-5.6へ移行

この取り組みは当初、GPT-5.5を対象に4月28日から7月27日までの期間限定で実施されていたものです。研究者はCodex Desktop環境上で、5問の生物安全チャレンジを突破できるかを試すルールでした。

発表によると、GPT-5.5を対象としたテストは予定どおり7月27日に終了します。それ以降は、対象がGPT-5.6およびそれ以降の最先端モデルへと一本化されます。

報奨金の5万ドルはGPT-5.5とGPT-5.6の双方に適用されます。完全な脱獄に至らない「部分的な成功」であっても、OpenAI側の裁量で少額の報奨金が支払われる場合があります。

参加形式も締め切り制から随時受付(ローリング方式)へと変更されました。生物安全の専門家やレッドチーム経験者は申請が可能で、過去の参加者は再応募の必要がありません。ただし、ChatGPTアカウントの保持と秘密保持契約(NDA)の締結が必須条件です。

なぜ重要か

今回の改編から見て取れるのは、GPT-5.6世代の高度な推論能力に伴い、バイオリスクがAI研究において最も危険な領域として定着したという事実です。

研究者側から見れば、5万ドルの満額賞金は魅力的ですが、要求されるハードルは極めて高いと言えます。単なるプロンプトエンジニアリングではなく、生物兵器や危険物質に関する専門知識と高度なセキュリティ技術の両方が不可欠だからです。

業界全体にとっても、バイオセキュリティを通常の脆弱性報奨金から切り離し、常設の枠組みにした動きは極めて合理的です。各国の規制当局が最も懸念している生化学リスクに対し、外部の精鋭ハッカーを継続的に防御へ巻き込む体制を整えた格好です。

懸念材料は透明性の欠如です。参加者全員にNDAが課されているため、モデルが実際にどのような手口で危険な回答を出しかけたのか、一般の研究者や市民が検証する手立てはありません。安全性の証明がOpenAIの自己申告に依存する構造は今後も課題として残りそうです。

情報源 (1)

  1. [1]
    openai.com(新しいタブで開きます)原文openai.com

毎日のAIピックアップ