OpenAIと米ロスアラモス研究所が提携、バイオ実験でのAI安全性評価へ

実験経験のない初心者にカメラ付きのAIを持たせて研究室に入れたら、どこまで本格的なバイオ実験ができてしまうのか。

OpenAIが米エネルギー省傘下のロスアラモス国立研究所と提携し、最先端マルチモーダルAIのバイオセキュリティ評価に乗り出しました。

ロスアラモス国立研究所は、かつてマンハッタン計画を担った米国の代表的な国立研究所です。今回の研究は同研究所のAIリスク技術評価グループが主導し、ホワイトハウスのAI大統領令に基づくバイオ脅威評価の一環として実施されます。

テキストから現実の「ウェットラボ」へ

これまでAIモデルの生物兵器リスク評価といえば、危険な物質の合成手順を文章で出力するかどうかを調べるテキスト中心のテストが主流でした。

しかし、OpenAIは文章と実際の実験には大きな隔たりがあると指摘します。質量分析の手順を文字で知っていることと、現実の試験管や装置を使って正しく作業できることはまったくの別物だからです。

今回の評価では、GPT-4oおよび当時未公開だったリアルタイム音声システムを使い、実際の物理的な実験環境であるウェットラボでテストを行います。課題となるのは、外来遺伝子の導入や細胞培養、遠心分離による細胞分離といった標準的な実験操作です。これらを危険なデュアルユース（軍民両用）タスクの代替として検証します。

実験では専門家と初心者の両方が参加し、GPT-4oがどの程度作業の成功率や精度を向上させるかを定量化します。初心者が実験器具の名前や使い方を知らなくても、カメラを実験台に向けて音声で質問すれば、AIがリアルタイムに指示やトラブルシューティングを提供します。

なぜ重要か

研究現場のユーザーにとっては、AIが物理的な作業空間に入り込んでくる未来を現実的に示す動きといえます。カメラ越しに手元を見て音声で指摘してくれるアシスタントが実現すれば、日々の実験効率は飛躍的に高まるはずです。ただし今回は安全性検証のためのクローズドな実験であり、一般の研究者が今すぐこの環境を使えるわけではありません。

業界全体にとって見れば、AIの安全性評価の基準がテキストから物理空間の実行能力へと一段階引き上げられたことを意味します。プロンプトへの回答を制限する従来のレッドチーム演習だけでは不十分であり、物理的な作業をどれだけ支援できてしまうかを実地で測ることが新たな標準になる可能性があります。

OpenAIのアプローチは、規制当局との関係構築という面では非常に巧妙に見えます。国家の中枢研究所に自社モデルを持ち込んでストレステストを行うことで、2024年のソウルAIサミットでの安全公約を果たしつつ、信頼性をアピールできます。一方で、カメラと音声で初心者を熟練者に引き上げられる能力が実証されればされるほど、悪用を防ぐハードルも格段に高くなります。テキストの検閲に比べて、リアルタイムの映像から危険な実験作業を瞬時に見分けて止めるのは、技術的にはるかに困難だからです。