米議員団がOpenAIに書簡、次期モデルの政府による事前審査を要求

最先端のAIモデルを市場に出す前に、政府が中身をチェックする時代が現実味を帯びてきました。

米上院の民主党議員らと独立系議員1名が、OpenAIのサム・アルトマンCEO宛てに公開書簡を送付しました。同社の安全基準や内部告発者への対応を厳しく追及する内容です。

12項目の質問状とタイタニックの警告

ワシントン・ポスト紙が最初に入手したこの書簡には、全部で12項目の要求が並んでいます。その中で最も注目されているのが第9項です。議員らは、OpenAIが次の基盤モデルを一般展開する前に、米政府機関へ事前テスト、審査、分析、評価のために提供すると約束できるかを問い詰めています。

議員らはさらに、現在AI安全性研究に割り当てられている計算資源の割合を明らかにするよう求め、その割合を20パーセントに設定することを約束するよう迫りました。また、悪意ある人物や外国の敵対勢力によるAI製品の窃取を防ぐためのプロトコルについても説明を求めています。

今回の追及の背景には、相次ぐ内部告発があります。告発者らによると、OpenAIはGPT-4 Omniの市場投入を遅らせないため、安全性基準を意図的に緩めたとされています。

さらに、安全面の懸念を経営陣に伝えた従業員が報復を受け、違法とされる秘密保持契約を結ばされていたとも主張されており、2024年6月には米証券取引委員会への申立ても行われました。

元従業員からも危機感を訴える声が上がっています。最近退職理由を明かしたウィリアム・サンダース氏は、現在のChatGPTではなく、将来登場する超人的AIの開発軌道が人類存亡の危機につながると指摘し、同社の行方を1912年のタイタニック号の沈没に例えました。

規制当局の視線が強まる中、盟友たちも距離を取り始めています。7月には、130億ドルを出資しているマイクロソフトとアップルが、規制監視の高まりを理由にOpenAIの取締役会席を相次いで辞退しました。

なぜ重要か

一般ユーザーや開発者にとって、手元のAPIやChatGPTがすぐに使えなくなるわけではありません。しかし、もし政府による事前審査が義務化されれば、次世代の看板モデルが一般公開されるまでの期間が大幅に延び、新機能をいち早く試すハードルが高くなる可能性があります。

業界全体にとって、これは規制当局が「事後対応」から「市場投入前の事前介入」へ舵を切ったことを意味します。OpenAIがこの要求を受け入れれば、グーグルやAnthropicといった競合他社も同様の事前アクセス提供を迫られることになり、先端AIの開発競争のルールそのものが塗り替えられるはずです。

議員側が、過去に議論を呼んだ20パーセントの計算資源配分や告発者保護という弱点を突いたのは極めて計算された動きと言えます。ただ、私たちは大きな懸念も残ると考えています。現在の米政府機関に、巨大な最新基盤モデルを迅速かつ適切に検証できるだけの専門人材や計算環境が整っているのかは来源に示されていません。審査体制が追いつかないまま介入だけが進めば、単なる行政の停滞や政治的介入を招く恐れがあります。