「AIの脅威は気候変動より差し迫っている」──ジェフリー・ヒントン氏が警告

深層学習の基礎を築いた第一人者が警鐘を鳴らすなら、耳を傾けないわけにはいきません。

「AIのゴッドファーザー」として知られるジェフリー・ヒントン氏が、AIが人類にもたらす脅威は気候変動よりも「さらに緊急」である可能性があると警告しました。

75歳のヒントン氏は、所属企業の事業に配慮することなく自由に発言するため、先月Googleでの非常勤の役割を辞任したばかりです。

気候変動には解法があるが、AIにはない

ヒントン氏はロイター通信の取材に対し、気候変動のリスクを軽視するつもりはないと前置きしつつ、AIの脅威の方が差し迫った問題になり得ると語りました。

同氏の指摘は非常に明快です。気候変動に対しては、炭素の排出をやめれば最終的には解決に向かうという明確な対策が存在します。

しかし、AIに関しては何をすべきかまったく分かっていないのが現状です。規制のないAIは誤情報の拡散や雇用市場の混乱を招き、悪意ある人物に社会を混乱させる道具を与えることになります。

さらにヒントン氏は、システムが自らコードを作成して実行する能力を持つようになれば、人間の制御を完全に離れてしまう恐れがあると懸念しています。AI兵器の登場はその恐ろしい一例にすぎません。

開発停止は「まったく非現実的」

ヒントン氏は潜在的なリスクの大きさに、自らの生涯の研究を一部後悔しているとも明かしています。

一方で、イーロン・マスク氏らが3月に提唱した「高度なAI開発を6カ月間停止する」という公開書簡には賛同していません。同氏はこの呼びかけを「まったく非現実的」だと切り捨てました。

ヒントン氏の立場は、AIを存亡の危機と捉え、開発を止めるのではなく、今すぐ膨大なリソースを投入して対抗策を導き出すべきだというものです。先週には米ホワイトハウスでも、Googleのスンダー・ピチャイ氏やOpenAIのサム・アルトマン氏らを集めた安全対策会合が開かれたばかりです。

なぜ重要か

私たちは、ヒントン氏の発言がAI業界の議論を技術の称賛からガバナンスの緊急性へと決定的にシフトさせたと考えています。

ユーザーやエンジニアにとって、今すぐAIの利用をやめるべきという話ではありませんが、コードを自律実行するような高度な仕組みをブラックボックスのまま基幹業務へ組み込む危うさを強く示唆しています。

業界全体にとっても、創始者が「解法が分からない」と認めた衝撃は計り知れません。各国の規制当局は、これを気候変動サミットと同等の最重要課題として扱うよう迫られることになるでしょう。

ヒントン氏の姿勢が賢明なのは、実効性のない「開発一時停止」という幻想を退けつつ、実態としての危機感を的確に伝えている点です。問題は、モデルの性能向上に投じられる巨額の資金に対して、暴走を防ぐ安全研究への投資があまりに少なすぎることです。

今後は、誰が最も賢いモデルを作るかだけでなく、誰が制御不能になる前に実効性のある安全策を確立できるかという競争へ移っていくとみられます。