OpenAI、超知能ガバナンス構想を発表　IAEAのような国際機関を提案

今後10年以内に、世界の巨大企業に匹敵する生産性を持ち、大半の分野で専門家を上回るAIが登場するかもしれない。そのとき、人類はどうやってその知能を統制するのか。

OpenAIは5月22日、AGIすら大幅に超える能力を持つ「超知能（スーパーインテリジェンス）」のガバナンスに関する提言を公開した。破滅的なリスクを未然に防ぐため、国際的な枠組み作りを今すぐ始めるべきだと訴えている。

AI版のIAEAを設立する構想

提言の中で最も目を引くのは、国際原子力機関（IAEA）に似た国際組織の設立だ。

一定の能力基準や計算資源（コンピュート）のしきい値を超える開発プロジェクトに対し、国際機関がシステムの検査や第三者監査、安全基準への適合性テスト、展開制限などを義務付ける枠組みを想定している。取り締まりの現実的な手段として、コンピュートと電力消費量の追跡を挙げている。

さらに、主要国の政府が主導する共同プロジェクトの立ち上げや、フロンティアAIの能力向上ペースに年間上限を設けるといった、開発側同士の協調ルールも提案された。

一方でOpenAIは、規制対象の切り分けを明確に強調している。基準を下回る規模のモデルやオープンソースプロジェクトにはライセンス制度や監査といった重い規制を課すべきではないとし、現在のAIがもたらすリスクは一般的なインターネット技術と同等だと説明した。

開発を完全に止めるのはなぜ危険か

リスクがそれほど巨大なら、開発そのものを禁止すればよいのではないか。

OpenAIはこの疑問に対し、開発の全面停止は直感に反して極めて危険で困難だと反論する。開発コストは年々下がり、参入者も急増しているため、完全に阻止するには地球規模の監視体制が必要になり、それでも機能する保証はないからだ。

技術の登場を止められない以上、正しい方向に制御するしかないというのが彼らの主張だ。あわせて、システムの基本的な境界線は世界中の人々が民主的に決定すべきだとも述べている。

なぜ重要か

私たちは、今回の提言が法規制の主導権を政府に握られる前に、開発企業自ら防衛ラインを引こうとする動きだと見ている。

コンピュート資源やエネルギー消費量に着目して監査を行うアプローチは非常に合理的だ。ソフトウェアの中身を直接監視するのは難しくても、巨大なデータセンターや先端チップの調達網なら物理的に追跡しやすいからだ。

また、基準値以下のオープンソースや中小モデルを規制から免除すべきだと明言した点は注目に値する。安全性を名目に規制のハードルを上げ、競合を排除しようとしているという批判に対し、オープンソースコミュニティへの配慮を示すことで反発を和らげる狙いが透けて見える。

だが、地政学的な対立が続く現在の世界情勢において、各国が足並みを揃えてAIの進化速度に上限を設けたり、自国のデータセンターに国際機関の立ち入りを認めたりするのは極めてハードルが高い。現時点の開発者や一般ユーザーにとっては、当面のオープンソース開発や日常的なAPI利用が重い規制に縛られる心配はないというシグナルとして受け止めておくのが現実的だ。