DeepMindハサビスCEO、米主導のAI監視機関設立を提唱　危険時は開発停止も

米政府が Anthropic の Mythos や OpenAI の Sol に対し、専門的な知見を欠いた場当たり的な介入や禁止措置を講じたことで、業界内では不透明な判断への批判が高まっていました。こうした混乱を受け、AI 研究のトップランナー自らが恒久的な解決策を提示し始めました。

Google DeepMind の CEO である Demis Hassabis は、ブログ記事「前沿 AI のフレームワークと新時代の幕開け」を公開し、米国が主導する独立した AI 監視機関の設立を呼びかけました。同氏はこの組織を年内に立ち上げたい考えです。

金融界に学ぶ自主規制組織の設計

Hassabis が提案しているのは、米金融業規制機構 FINRA をモデルとした枠組みです。政府の官僚機構が直接乗り出すのではなく、業界の資金拠出を受けながらも独立して運営される自主規制機関を目指しています。

ホワイトハウスの AI アドバイザーを務める a16z の Sriram Krishnan は最近、行政主導の規制組織を否定し、AI 向けの FDA（食品医薬品局）のような組織は作らないと明言していました。Hassabis の提案は、この政治的な警戒感を巧みに回避する狙いがあります。

この構想では、組織のスタッフとして独立した技術専門家やオープンソース界の代表者が参加します。評価業務の一部は外部の AI セーフティ団体に委託することも想定されています。

運用は段階的に進められます。初期段階では、フロンティアモデルを開発する企業が公開の 30 日前までに任意でモデルを提出し、欺瞞性や生物兵器の製造支援、サイバー攻撃能力などを検査します。プロトコルが確立された後は法制化を進め、合格しなければ米国市場で提供できない仕組みに移行します。リスクが極めて高いと判断された場合には、業界全体でモデル公開のペースを落とす調整権限も持たせる方針です。

迫る AGI と 18 カ月の猶予

2024 年のノーベル化学賞受賞者でもある Hassabis は、ここ数カ月にわたりトランプ政権や競合ラボ、欧州当局と水面下で協議を重ねてきました。Axios の取材に対し、同氏はトランプ政権側から非常に前向きな感触を得ていると明かしています。

同氏がここまで急ぐ背景には、汎用人工知能 AGI の急速な進展があります。人類は現在シンギュラリティの麓に立っており、AGI 実現まではあと数年しか残されていないと警告しています。さらにオープンソースモデルの能力も、今後 18 カ月以内に危険な領域へ突入する恐れがあると指摘しました。

なぜ重要か

一般の開発者やスタートアップにとって、この枠組みが直ちに日々のアプリ開発を縛る可能性は低いです。対象はあくまで最先端の大規模フロンティアモデルに限られるためです。ただし、オープンソースモデルが 18 カ月以内に規制対象に巻き込まれれば、自由に高性能モデルをダウンロードして活用する環境が狭まる懸念があります。

業界全体にとって、この動きは規制の主導権を巡る先手を打った防衛策と言えます。技術を理解しない政治家による唐突な禁止令に怯えるくらいなら、自らルールブックを書き、技術者を審査官に据えた方が合理的だからです。

しかし、この枠組みには見逃せない構造的リスクが存在します。大手テック企業から資金提供を受ける自律機関が、どこまで本物の独立性を保てるのかという疑問です。さらに、業界全体の開発ペースを減速させる権限は、新興勢力の台頭を阻む巨大企業の参入障壁として悪用される恐れもあります。

完全な行政統制と無法地帯の二者択一を避ける意味で、FINRA 型のアプローチは現実的な落としどころだと私たちは考えます。ただし、その評価基準や結果が徹底して一般に公開されない限り、巨大テック企業同士の密室協議に堕してしまうリスクは常に付きまといます。