OpenAIが安全枠組みを更新、取締役会に危険なAIの拒否権を付与

11月の劇的なお家騒動を経て、OpenAIが「安全軽視」との批判を払拭するための新方針を打ち出しました。

OpenAIは12月18日、最先端AIモデルの潜在的危険性を管理するための改定版「Preparedness Framework（準備フレームワーク）」を公開しました。技術チームの上に「安全諮問グループ」を新設するとともに、危険と判断されたAIのリリースについて取締役会が拒否権を行使できる権限を明文化しました。

破滅的リスクを4領域・4段階で判定

OpenAIは今回、「破滅的リスク」の定義を明示しました。数千億ドル規模の経済的被害、あるいは多数の人々の深刻な危害や死につながるリスクを指し、人類存亡の危機もここに含まれます。

同社は開発中のフロンティアモデルを、サイバーセキュリティ、説得力（世論誘導や偽情報）、モデルの自律性（自己行動）、CBRN（化学・生物・放射性物質・核兵器）の4つの領域で評価します。

安全対策を講じた後でも「高リスク」と評価されたモデルは一般展開が禁止され、最悪の「致命的（Critical）リスク」に達したモデルは開発そのものが中止されます。

例えばサイバー領域では、人間のオペレーターの作業効率を上げる程度なら中リスクですが、人間の介入なしに高度な標的の脆弱性を実証できる場合は高リスク、高レベルな目標指示だけで未知のサイバー攻撃戦略をゼロから立案・実行できる場合は致命的リスクと判定され、お蔵入りとなります。

取締役会にブレーキ役を委ねる仕組み

評価の客観性を保つため、技術部門の上に「安全諮問グループ」が設置されます。専門家の報告を精査し、経営陣に勧告を出す役割です。

重要なのはその報告ルートです。勧告はサム・アルトマンCEOやミラ・ムラティCTOら経営陣と、取締役会へ同時に送られます。最終的なリリース判断は経営陣が行いますが、取締役会はその決定を覆す拒否権を持ちます。

これは、経営陣が独断で高リスク製品を進めているという取締役会の懸念から生じたとされる11月の解任劇を再発させないための仕組みに見えます。ただし、当時ブレーキ役だったヘレン・トナー氏は退任し、イリヤ・サツケヴァー氏の立場も変化しました。ラリー・サマーズ氏らビジネス寄りの新メンバーで構成される現在の友好的な取締役会が、実際にブレーキを踏めるのかは疑問符がつきます。

なぜ重要か

AIを利用する企業や開発者にとって、この方針はAPIの安全基準や将来の機能制限に関する予測可能性を高める材料になります。暴走リスクのある極端な自律エージェント機能は意図的に抑制されるため、急な法規制リスクに巻き込まれる懸念は減ります。

業界全体に対しては、「どのレベルのリスクで開発を停止すべきか」を数値的・技術的な基準として公表したインパクトがあります。競合するAnthropicやGoogleも同様の具体的フレームワークの提示を迫られることになり、各国の規制当局にとっても標準モデルとなる可能性があります。

OpenAIの立ち回りは非常に巧みだと考えます。ガバナンス体制をアピールして規制当局を安心させつつ、「公開できないほど強力なAIを作っている」というブランド力を誇示できるからです。一方で懸念されるのは透明性です。外部第三者による監査を行うとはしているものの、具体的な判定プロセスや取締役会での議論は依然として密室のままです。本当に危険なモデルが開発された際、外からそれを検証する術がない点は課題として残ります。