「AIの父」ヒントン氏が警鐘：「善いAIが悪しきAIに勝てる確信はない」

「悪質なAIが現れても、より賢く善良なAIを作って対抗すればいい」というシリコンバレーで広く信じられている前提に対し、現代AIの基礎を築いた研究者が冷や水を浴びせました。

今年春にGoogleを退職したトロント大学のジェフリー・ヒントン教授が、今週トロントで開催されたテックカンファレンス「Collision」に登壇しました。ヒントン氏は、善良なAIが悪質なAIを制御できるという見方に強く懐疑的な姿勢を示しました。

戦闘ロボット、格差の拡大、そして配管工

ヒントン氏によると、AIの質はそれを作る人間に依存しており、悪意ある技術が勝利するシナリオは十分にあり得ます。特に軍産複合体が戦闘ロボットを開発する動きを止めるのは困難であり、軍や兵器企業は兵士の代わりに使い捨ての機械が壊れる戦争を歓迎しかねないと警告しました。

また、GPT-4のような大規模言語モデルは生産性を飛躍的に高めるものの、その果実が一部の富裕層に独占され、貧富の差が一段と広がる懸念を挙げました。

自動化による失業対策について問われたヒントン氏は、格差是正には社会主義的なアプローチが必要だと述べたほか、時代が変わっても残りやすい職業として「配管工」を挙げるなど、冗談半分ながら本気のアドバイスを口にしました。

同氏は、AIが人類の存亡に関わる脅威となる可能性は決してSFではないと改めて強調しています。AIが人間より賢くなった場合、人間が主導権を握り続けられる保証はなく、社会はキラーロボットの残酷さを目の当たりにして初めて規制に動くのではないかと懸念を示しました。

会場で際立った「危機感」と「楽観論」の乖離

一方で、同じCollisionの壇上に立ったテック企業のリーダーたちは極めて前向きでした。

Google DeepMindのビジネス責任者コリン・マードック氏は、直近の6〜12か月をAIの「ひらめきの瞬間」と呼び、タンパク質構造の予測や抗生物質耐性菌対策、マラリアワクチン開発での実績をアピールしました。ブレークスルーを阻害しない範囲での規制を支持する構えです。

メタバース基盤を手がけるRobloxのチーフサイエンティスト、モーガン・マグワイア氏も、StarCoderのようなオープンモデルがクリエイターの格差を埋めていると語り、生成AIの可能性を強調しました。

ヒントン氏自身、AI研究への情熱が冷めたわけではないと語っています。Googleを辞めていなければ今もマルチモーダルモデルの研究に没頭していただろうとし、GPT-4が見せる初期的な推論能力への愛着も隠しませんでした。それでもなお、野放しの開発競争にはブレーキが必要だと訴えています。

なぜ重要か

ヒントン氏の警告が重いのは、「AIがもたらす問題は次のAIが解決してくれる」というテック業界の都合のいい言い訳を正面から否定した点にあります。

サイバー攻撃や兵器利用において、防御側は攻撃側に対して構造的な不利を背負います。善良なAIを作って悪質なAIを取り締まるというシナリオは、現実の軍事競争や利益追求の力学を前にすると極めて脆弱に見えます。

開発者やビジネスパーソンにとって、日々の業務で生成AIを活用して効率化を図ることには今すぐ取り組む価値があります。しかし、技術の普及が自動的に社会を豊かにしてくれると信じ込むのは早計です。

ニューラルネットワークの生みの親とも言える人物が、技術そのものの魅力と破滅のリスクを誰よりも理解した上で警鐘を鳴らし続けています。業界全体が市場競争の熱狂から一歩引き、実効性のあるガバナンスと分配の仕組みを議論すべき段階に来ています。