OpenAI、次世代モデルの事前安全テストで米AI安全研究所と連携へ

OpenAI の CEO であるサム・アルトマン氏は、開発中の次期主力生成 AI モデルについて、米国の人工知能安全研究所（U.S. AI Safety Institute）に事前アクセスを提供し、安全性テストを実施することで合意に向けて協議中であると明かしました。

同社は 6 月にも英国の安全機関と同様の合意を結んでおり、今回の発表もその流れを汲むものです。アルトマン氏が X で投稿した内容は詳細こそ乏しいものの、相次ぐ安全性軽視の批判を払拭する狙いがあるとみられます。

安全チーム解散の余波と議会からの追及

OpenAI は 5 月、超知能 AI の暴走を防ぐ研究を進めていた「スーパーアライメント」チームを実質的に解散させました。

新製品の投入を優先して安全研究が後回しにされたことが報じられ、共同リーダーだったイリヤ・サツケヴァー氏とヤン・ライケ氏が相次いで退社しました。ライケ氏は競合の Anthropic へ移籍し、サツケヴァー氏は独自に Safe Superintelligence 社を立ち上げています。

その後、OpenAI は元従業員の内部告発を制限していた退職時合意の条項を無効化し、社内安全委員会を新設して計算資源の 20% を安全研究に充てる方針を再確認しました。しかし、委員会のメンバーがアルトマン氏を含む社内関係者のみで構成されていることなどから、不信感は完全に消えていません。

米議会からも厳しい視線が注がれており、民主党のブライアン・シャツ上院議員ら 5 名が同社の安全方針に関する質問書を送付しました。これに対し、OpenAI の最高戦略責任者であるジェイソン・クウォン氏が、すべての開発段階で厳格な安全基準を適用していると回答する事態となっています。

ロビー活動費の急増と「規制の虜」への懸念

今回の合意発表のタイミングには、別の側面も指摘されています。

OpenAI は直前に、米商務省標準技術研究所（NIST）傘下にある安全研究所に法的権限を与える上院法案「Future of Innovation Act」への支持を表明したばかりでした。標準策定機関を後押ししつつ、自らそこにモデルを提出して連携を深める動きは、連邦レベルでの政策決定に影響力を及ぼす「規制の虜」ではないかとの見方も出ています。

実際、同社のロビー活動費は急増しており、2023 年通年で 26 万ドルだった支出が、2024 年上半期だけで 80 万ドルに達しました。さらに、アルトマン氏は国土安全保障省の AI 安全諮問機関のメンバーにも名を連ねています。

安全研究所は現在、OpenAI のほか Anthropic、Google、Microsoft、Meta、Apple、Amazon、NVIDIA などで構成されるコンソーシアムと連携し、バイデン大統領の AI 大統領令に基づくレッドチーミングやリスク評価、合成コンテンツへの電子透かしなどの基準作りを進めています。

なぜ重要か

一般ユーザーや開発者にとって、次期モデルのリリース前に政府機関による検査が入ることは、公開スケジュールの遅延要因になり得ます。一方で、企業導入においては、公式機関の事前テストを通過しているという事実が、コンプライアンス上の大きな安心材料になります。

業界全体から見ると、OpenAI は議会からの追及をかわしつつ、安全性の基準作りそのものに深く関与する巧みなポジショニングを取っています。競合の Anthropic が築いてきた「安全性重視」のブランドに対抗する意図もうかがえます。

ただし、社内の安全委員会が依然として内部人材だけで占められている点や、過去に約束された計算資源が現場に配分されなかった経緯を考えると、実効性についてはまだ疑問が残ります。それでも、フロンティアモデルの事前審査が事実上の業界標準になりつつあることは確かです。