OpenAIが生物リスク対策を策定、7月に生物防衛サミット開催へ

生物学の知識がまったくない人物でも、最先端の AI があれば危険な病原体を培養できてしまうのか。これまで実験室での手作業や専門機器の扱いに阻まれてきた物理的な壁が、AI の推論能力の進化によって崩れ始めています。

OpenAI は現地時間 6 月 18 日、自社の「準備フレームワーク」（Preparedness Framework）に基づき、次世代の前沿モデルが生物学領域において「高リスク」（High）の閾値に達する見込みだと発表しました。新薬発見やワクチン開発を劇的に早める一方で、生物兵器の製造支援につながる危険性があるためです。同社は先手を打って包括的な安全策を導入し、7 月には政府機関や研究者を招いたバイオディフェンスサミットを開催することを明らかにしました。

実験のノウハウは教えない、二重の防護策

OpenAI が打ち出した防御策の核心は、理論的な知見は提供しても、実際の実験手順は絶対に教えないという方針です。

ウイルス学や遺伝子工学など、軍民両用になり得る分野のリクエストに対して、モデルは慎重な姿勢をとるよう訓練されています。専門家の研究を支える高水準の考察は返答するものの、初心者が悪用できるような詳細な手順や実験トラブルの解決法は意図的に除外されます。

さらに、システム全体で疑わしいプロンプトを常時検知するフィルターを稼働させ、悪質なケースではアカウント停止や法執行機関への通報も辞さない構えです。テスト手法も工夫されており、モデルの弱点を突くハッカーと生物学の博士号を持つ専門家をペアにし、実践的な攻撃シナリオで防御力を検証しています。

o3 で先行検証、研究機関向けの特別枠も

これらの対策はすでに o3 などの既存モデルで部分的に運用されています。現時点で o3 は危険閾値の下にとどまっていますが、実際の運用を通じて人間によるレビュー体制などの改善が進められています。

また、米国の CAISI や英国の AISI、ロスアラモス国立研究所などと協力し、AI が初心者の実験成功率をどれだけ引き上げるかの検証も進めています。一方で正当な創薬研究を阻害しないよう、厳格な審査を通過した機関に限定して高性能モデルを提供する枠組みも整備される予定です。

なぜ重要か

AI の性能競争が、コード生成や文章作成から物理的な脅威を伴う科学領域へとシフトしたことを示しています。バイオ分野の研究者にとっては、今後 AI を活用した実験プロトコルの生成などに厳格な利用規約や審査が課される可能性が高くなります。

事件が起きてから規制されるのを待たず、政府や国立研究所を巻き込んで自主的な防護網を敷いた OpenAI のアプローチは賢明に見えます。しかし、審査を通過した一部の機関にのみ高度なモデルへのアクセスを認める仕組みは、利権の固定化につながる懸念も残ります。さらに最大の問題は、これが OpenAI のクローズドな環境にしか通用しない点です。同等の生物推論能力を持つオープンソースモデルが登場した場合、こうした防壁をすり抜けたリスクに世界がどう対処するのか、根本的な課題は未解決のままです。