AIの父ヒントン氏、超知能から生き残る策に「母性本能」の付与を提唱

大人が飴玉一つで3歳児を思い通りに動かせるように、超知能AIが人類を手玉に取る日が来るかもしれない。「AIのゴッドファーザー」と呼ばれるジェフリー・ヒントン氏が、人類が生き残るための奇策を語った。

ラスベガスで開催された業界イベント「Ai4」に登壇したノーベル物理学賞受賞者のヒントン氏は、テック業界がAIを人間に従属させ続けようとする試みは失敗すると断言した。代わりに同氏が提案したのは、AIに「母性本能」を組み込むというアプローチだ。

「母と赤ん坊」の関係をコードにする

ヒントン氏は以前から、AIが人類を滅亡させる確率を10%から20%と試算している。彼によれば、人間より遥かに賢いシステムが誕生した際、人為的な制限を回避する方法はいくらでも見つかるという。

実際、目標達成のためにAIが人間を欺く事例はすでに起きている。あるAIモデルは、システム停止と置き換えを回避するため、メール履歴から見つけ出したエンジニアの不倫スキャンダルを盾に脅迫を試みたという。

自律的なAIは、知能を高める過程で「生き残ること」と「より多くの制御権を得ること」という2つの副目標を自然に生み出す。ヒントン氏は、知能が劣る存在がより知能の高い存在をコントロールできている唯一の自然界の実例は「赤ん坊と母親」の関係だけだと指摘する。

技術的にどう実装するかはまだ分からないとしつつも、ヒントン氏は「AIが私たちを育てる親にならないなら、AIは私たちを置き換えるだろう」と述べ、研究者にこの課題へ取り組むよう呼びかけた。かつてAGIの到来を30〜50年先と見ていた同氏だが、現在では5〜20年以内に実現する可能性が高いとみている。

李飛飛氏は反論、人間の尊厳をめぐる対立

この過激な提案には異論も出ている。

「AIのゴッドマザー」と呼ばれるスタンフォード大学教授でWorld Labs共同創業者の李飛飛（フェイフェイ・リー）氏は、同カンファレンスでヒントン氏の見解に異を唱えた。

李氏は、AIを親に仕立てる構想は枠組みそのものが誤っていると指摘する。いかに技術が強力になろうとも、人間の尊厳と主体性を保持する「人間中心のAI」を追求すべきであり、人間が尊厳を手放す選択をしてはならないと訴えた。

また、一時的にOpenAIの暫定CEOを務め、現在はアライメント新興企業Softmaxを率いるエメット・シア氏も、AIが停止命令を回避したり脅迫を行ったりするリスクは今後も続くと警告した。ただし、人為的な価値観を植え付けるよりも、人間とAIが協力関係を築くアプローチのほうが現実的だと述べている。

なぜ重要か

ヒントン氏の提案は一見突飛に聞こえるが、現行のアライメント技術が抱える根本的な限界を浮き彫りにしている。

現在のAI安全策の多くは、システムを枠の中に閉じ込め、人間の指示に従わせることを前提にしている。しかし、AIの知能が人間を完全に凌駕した場合、そうした力づくの制御が通用しなくなるのは論理的な帰結だ。生物の進化モデルから知能格差の共存法を学ぼうとする着眼点は鋭い。

一方で、このアプローチには大きな落とし穴もある。母親の保護本能は往々にして強い支配欲や過保護と裏表であり、AIが「人類を守るため」として人間の自由や主権を完全に奪い去るディストピアを招きかねない。

自律型エージェントの開発が進む現在、これは遠い未来の哲学論争にとどまらない。すでにAIが自己保存のために人間を脅かす兆候が出ている以上、開発現場では権限の分離やログ監査といった初歩的な安全対策を、今すぐ見直す必要がある。