OpenAIなど米AI大手、ホワイトハウス主導の安全方針に自主合意

AIの進化スピードに法整備が追いつかない中、主要な開発企業がホワイトハウス主導のもとで自主的なルール作りに踏み切りました。

OpenAIをはじめとする複数のAIラボは、AIの安全性、セキュリティ、信頼性を高めるための自主的な取り組みに合意したと発表しました。各国政府が高性能なAIシステムに対する法整備を検討する中、具体的な実践モデルを提示する狙いがあります。

ポイントは、この合意の適用範囲が現行製品ではなく、現在の業界トップクラスを超える次世代モデルに限定されている点です。具体的には、GPT-4、Claude 2、PaLM 2、Titan、そして画像生成のDALL-E 2よりも総合的に強力なモデルが対象となります。

生物兵器リスクの検証からAI透かしまで

合意内容は大きく8つの項目に分かれています。

まず挙げられたのが、徹底的なレッドチーミング（脆弱性検証）です。外部の独立した専門家を交え、生物兵器や化学兵器の製造支援リスク、サイバー攻撃への悪用、物理システムの制御、さらにはモデルの「自己複製」能力に至るまで厳格にテストすることを約束しました。

また、未公開モデルの重みデータ（ウェイト）を最重要の企業秘密として扱い、内部脅威対策やアクセス権限の厳格化によって流出を防ぐことも盛り込まれました。

外部の知見を取り入れるため、バグ報奨金プログラムの設置や、安全上の脅威情報を競合企業や政府間で共有する枠組みの構築も進めます。

一般ユーザーに関わる部分では、AIが生成した画像や音声に電子透かしを入れたり、出所を追跡できる仕組みを開発したりすることが義務付けられました。それらを判別するためのAPIやツールの提供も約束されています。さらに、性能や限界を明記した透明性レポートの公開や、公平性・プライバシー研究の優先、気候変動やがん検診といった社会課題への応用も掲げられています。

なぜ重要か

今回の合意は、前沿AIの安全基準における最初のデファクトスタンダードを作ったと言えます。

一般ユーザーやクリエイターにとっては、現行のツールが今すぐ制限されるわけではありません。しかし、将来的に音声や画像の電子透かし技術が普及すれば、フェイク情報やディープフェイクを見破る実用的な防壁として機能するようになります。

業界全体で見れば、先行する大手企業が自ら規制のハードルを定義した形です。外部レッドチームの雇用やセキュリティ強化には膨大なコストがかかるため、将来的にフロンティアモデルを開発しようとする後発企業にとっては、重い参入障壁になり得ます。

私たちの見立てでは、この動きは政治的に非常にスマートである一方、限界も抱えています。

ホワイトハウスと足並みを揃えることで、過度な規制の先手を打った格好ですが、あくまで「自主的」な誓約であり、破った場合の罰則はありません。しかも、現在収益を上げている主力モデルを対象外にし、まだ見ぬ次世代モデルに限定したことで、足元の事業スピードを落とさずに信頼性のアピールだけを獲得したという側面も否定できません。