強化学習の先駆者がチューリング賞を受賞、AIの性急な商用化に警鐘

もし建設会社が橋を架けたあと、事前の強度試験もせずに一般車両を一斉に走らせて安全性を確かめようとしたら、誰もが正気を疑うはずです。

しかし、現在のAI業界がやっていることはまさにそれだと、計算機科学の最高峰を手にしたパイオニアたちが警鐘を鳴らしています。

橋を架け、人を渡らせて強度を測る危うさ

マサチューセッツ大学のアンドリュー・バルト研究員と、元DeepMindのリチャード・サットン研究員が、今年のチューリング賞を共同受賞しました。「コンピュータ界のノーベル賞」と称されるこの賞には100万ドルの賞金が伴い、受賞理由は彼らが築き上げた「強化学習」の功績です。

試行錯誤を通じてシステムに最適解を学ばせる強化学習は、Googleのシニアバイスプレジデントであるジェフ・ディーン氏が「AI進歩の要」であり「AIブームの中核的支柱」と呼ぶ技術です。古くはAlphaGoから現在のChatGPTに至るまで、ブレイクスルーの根底にはこの仕組みがあります。

しかし、受賞した二人がスポットライトを浴びて語ったのは、祝辞ではなく一般公開を急ぐ企業への強い危機感でした。

英フィナンシャル・タイムズ紙の取材に対し、バルト氏はAI製品のずさんな検証姿勢を「橋を建設し、人々に使わせることでテストしているようなものだ」と表現しました。

バルト氏は、安全策も講じずに数百万人のユーザーへソフトウェアを配布することは「優れたエンジニアリングの慣行ではない」と批判。技術の悪影響を軽減するために発展してきたはずのエンジニアリングの基本が、現在の開発企業では守られていないと指摘しています。

利益至上主義に押される「工学の基本」

バルト氏は、AI企業が研究の進展ではなく「ビジネス上の動機」によって動いていると苦言を呈しました。

同様の懸念を示しているチューリング賞受賞者は彼らだけではありません。「AIのゴッドファーザー」と呼ばれるヨシュア・ベンジオ氏やジェフリー・ヒントン氏も、以前から安全性を欠いた開発競争を強く批判してきました。2023年にはOpenAIのサム・アルトマンCEOらを含むトップ研究者や幹部が、「AIによる絶滅リスクの軽減は世界的な優先事項であるべきだ」とする声明に署名しています。

しかし現場の動きは逆行しているようにも見えます。結果を十分に理解しないまま商業化を進めたことなどを理由に一時期アルトマン氏を解任したOpenAI自身も、12月には営利企業への完全移行計画を発表しました。

なぜ重要か

今回の警告が極めて重いのは、発言の主が部外者ではなく、現代の大規模AIを動かすコア技術「強化学習」をゼロから作った当事者だからだと考えられます。

ユーザーや開発者の視点で見れば、私たちは今、安全基準の整っていない製品の「実地テスト要員」として扱われていることになります。業務やコード生成にAIを組み込んでいる人は、自覚のないまま未検証の橋を渡らされている状態と言えます。

従来のソフトウェア業界における「早くリリースして後から直す」という手法を、社会全体に影響を及ぼすAIにそのまま適用するのは、工学的に見て大きな死角を抱えています。他社が公開を急ぐ以上、自社だけが安全検証のために立ち止まることができないという、典型的な囚人のジレンマに陥っています。

私たちは、研究者による倫理的な呼びかけだけでは、この巨大な商業的モメンタムを止めるのは難しいと見ています。航空や建築のような拘束力のある工学基準が法制化されない限り、危険を顧みないスピード勝負は今後も続いてしまう恐れがあります。