OpenAIが安全性委員会を独立組織に改編：モデル公開の延期権限を付与

最先端のAI開発において、開発者自身にブレーキをかけさせるのは常に難しい課題でした。

OpenAIは安全性およびセキュリティ委員会を改組し、取締役会直属の独立した監視委員会に格上げしたと発表しました。最大の特徴は、安全面での懸念が解消されるまでモデルの公開を延期する権限をこの委員会に正式に付与した点です。

独立したブレーキ役の顔ぶれ

この変更は、同委員会が実施した90日間にわたる安全対策や手順の検証結果を取締役会が承認したことを受けて決定されました。

委員長にはカーネギーメロン大学機械学習部門のディレクターを務めるZico Kolter氏が就任しました。

メンバーにはQuoraの共同創業者兼CEOのAdam D’Angelo氏、元米陸軍大将のPaul Nakasone氏、元ソニー上級副社長兼ゼネラルカウンセルのNicole Seligman氏が名を連ねています。

以前の体制とは異なり、経営幹部を外した社外取締役のみで構成され、新モデルOpenAI o1のリリース前審査もすでにこの委員会が担当しました。

内部防壁の強化と外部連携

ガバナンス体制の見直しと並行して、具体的なセキュリティ強化策も示されました。

社内では機密情報のアクセス区分を厳格化し、24時間365日体制のセキュリティ運用チームを増強します。さらに、AI業界全体でサイバー脅威情報を共有する分析センターの設立も検討しています。

外部機関との協力も拡大しており、ロスアラモス国立研究所と連携して生物科学実験におけるAIの安全性検証を進めるほか、米英両国のAI安全研究所とも協定を締結しました。

こうした基準を現場に落とし込むため、OpenAIは研究、安全、政策の各チームを再編し、統合された安全フレームワークを運用する方針です。

なぜ重要か

モデルの公開停止権限を社外の独立した取締役に委ねたことは、同社のガバナンスにおいて前向きな一歩だと考えられます。商業競争のプレッシャーにさらされる経営陣自身が安全審査を行っていては、利益相反が生じやすいからです。

学術、防衛、法務の専門家に実権を持たせることで、世界的な規制圧力に対する説得力を高める狙いが見えます。

もっとも、真の懸念はその実効性です。規程上で延期権限を認めることと、ライバル企業との激しい開発競争の最中に重要モデルの公開を本当に差し止められるかどうかは別問題です。制度が単なる形式に終わらないか、今後の運用が試されます。