OpenAI、国家レベルのAI安全性規制の義務化を要求：カリフォルニア州の4法案を支持

ビッグテックは長年、政府による規制を極力避け、拘束力のない自主的な安全宣言で時間を稼ぐのが常套手段でした。

しかし、OpenAIはその方針を大きく転換しようとしています。同社のグローバルアフェアーズ最高責任者であるChris Lehane氏はブログを公開し、フロンティアAIに対する義務的かつ能力ベースの連邦規制を導入するよう米議会に求めました。政策を打ち出せる期間は限られており、今すぐ行動を起こす必要があると訴えています。

連邦議会が動くまでの間、OpenAIはカリフォルニア州議会を通過した4つのAI関連法案を支持することを表明しました。各州で先行して安全基準を作り、それを後に連邦法に反映させる「リバース・フェデラリズム」を狙う格好です。

カリフォルニア州の4法案と自社モデルの急速な進展

OpenAIが支持を表明した4つのカリフォルニア州法案は、具体的かつ差し迫ったリスクに焦点を当てています。

SB 813は独立した第三者評価機関を認定する枠組みを整えるものであり、AB 1405はAI監査人に対する登録制度や独立性、説明責任を義務付ける内容です。

また、SB 1119はコンパニオン型チャットボットを利用する青少年を保護するため、年齢確認や保護者による管理機能、独立監査を求めます。AB 1864は、AIを悪用した生物兵器などの脅威を防ぐため、遺伝子合成プロバイダーや製造業者に安全策を講じるよう指示する法案です。

OpenAIが規制強化を急ぐ背景には、自社の技術開発の急速な進展があります。文書内では、開発中のシステム「Astra」の能力や、主任科学者Jakub Pachocki氏が警告した「再帰的な自己改善」の危険性に言及されています。

現時点で完全自律型の自己改善ループが起きているわけではないものの、熟練の研究者が数日かかるタスクをAIエージェントがこなすなど、研究加速の兆候はすでに出ているといいます。OpenAIはAstraの開発において、思考の連鎖を含むすべての行動ログを監視し、厳格な安全基準をパスするまで社内展開すら止める仕組みを導入したと説明しています。

なぜ重要か

私たちは、今回のOpenAIの動きを非常に計算された高度なロビイング戦略だと見ています。

一見すると自らを規制の枠にはめる謙虚な姿勢に見えますが、彼らの主張で最も注目すべきは「義務的規制はフロンティアで競争する一部の巨大資本ラボにのみ適用されるべきだ」と明言している点です。スタートアップやオープンソースモデルを規制対象から外すよう配慮を見せています。

しかし、高度な独立監査や安全評価を法律で義務化すれば、その基準をクリアするためのコストを支払えるのはOpenAIをはじめとする数社に限られます。結果として、後発の挑戦者がフロンティア領域に参入する際のハードルが跳ね上がることになります。

一般ユーザーや企業にとっては、未成年の保護や生物兵器リスクへの対策が進み、より安全なAI製品が市場に残るというメリットがあります。一方で、業界のルール作りを既存の支配的プレイヤーが主導することで、規制が実質的な参入障壁として機能してしまう懸念は拭えません。