Google DeepMindが新研究所「DMI」設立、AGIの社会的影響や安全性を研究

Google DeepMindの創業者たちが、汎用人工知能（AGI）の到来を目前にした社会の受け皿作りに乗り出しました。

Google DeepMindは9月16日、AGIがもたらす技術的・社会的影響を研究する社内シンクタンク「DeepMind Institute（DMI）」を設立したと発表しました。ディレクターには共同創業者のShane Legg氏とDemis Hassabis氏、そしてGoogle幹部のJames Manyika氏が就任し、Legg氏がマネージングエディターを務めます。外部の研究者や人文学者も広く巻き込む方針で、公開される論文には「Googleの公式見解ではない」という免責事項が明記されています。

四半世紀にわたりAGIを研究してきたLegg氏は、現在のAIは基本的な課題でつまずくことも多く創造性にも欠けるものの、そうした課題は「まもなく解決される」と明言。社会構造の激変に備える議論が急務だと訴えています。

思考プロセスのブラックボックス化に警鐘

創刊ラインナップとして発表された論考の中で、ひときわ技術的な注目を集めているのが、安全研究者のRohin Shah氏とAnca Dragan氏によるモデルの透明性に関する論文です。

現在の大規模モデルは思考プロセスをテキスト出力させることで挙動を追跡できますが、アーキテクチャの進化によってこの監視の窓口が急速に狭まっています。両氏は、人間が読める推論の痕跡を残さずにAIが連続処理を行う「不透明な連続深度」を規制すべきだと主張しました。さらに、疑わしい思考に対して単にペナルティを与えるような訓練を施すと、モデルが本音を隠すこと（隠蔽）を学習してしまうリスクがあると警告しています。

また、Hassabis氏自身も7月に提示した安全規制フレームワークを再掲載し、米主導によるフロンティアAI基準機関の創設を改めて提唱しました。モデル公開の30日前までに自主提出させて評価を行い、ゆくゆくは義務化する構想です。事前にテスト対策ができないよう非公開の試験問題を用意し、状況が深刻化した場合に各社足並みを揃えて開発を一時減速させる権限を持たせることも盛り込まれました。

経済面では、Julian Jacobs氏とAlex Imas氏の論文が、AGIの実現時期を予想するよりも、労働市場への影響度合いに応じた安全網を前もって法制化しておくべきだと提案しています。軽微な影響であれば失業保険やリスキリングで対応し、深刻な代替が起きた場合には負の所得税や資本所有の分散を導入するという二段階のアプローチです。

なぜ重要か

AIを導入する企業や開発者にとって、今回の論点は極めて具体的です。ベンダーからモデルを調達する際、「思考ログがブラックボックス化されていないか」「隠蔽を誘発するような報酬設計になっていないか」という監査基準を突きつける材料になります。

業界全体から見れば、ワシントンでのAI規制議論がロビー活動によって停滞していると報じられる中、当事者であるDeepMindが先行してルール作りの土俵を整えにいった格好です。他社や規制当局に後れを取る前に、自ら安全基準のデファクトスタンダードを握ろうとする動きは極めて戦略的だと私たちは考えます。

ただし、課題も残されています。論文にGoogleの企業方針ではないと明記されている通り、これはあくまで研究者たちの提言にすぎません。OpenAIやAnthropicとの激しい開発競争が続く中で、自発的な「減速協調」が実際に機能するのかは不透明です。実効性のある法制度が追いつかない限り、巨大テック企業による自主的な警鐘がどこまで開発の暴走を止められるかは疑問が残ります。