マスク氏や研究者ら、GPT-4を超えるAIの学習を半年間停止するよう要請

生成AIの製品化競争が過熱する中、著名な研究者やテック界の有力者たちが急ブレーキを踏もうとしています。

非営利団体のFuture of Life Instituteは公開書簡を発表し、世界中のすべてのAI研究所に対し、GPT-4を超える性能を持つAIシステムの訓練を直ちに少なくとも6カ月間停止するよう求めました。書簡は、もし各機関が自主的に一時停止を実施できない場合は、各国政府が介入してモラトリアムを導入すべきだと主張しています。

6カ月間の停止で何を目指すのか

書簡が指摘しているのは、現在のAI開発が制御不能な競争に陥っているという現状です。開発者自身ですら挙動を完全に理解、予測、制御できない機械学習システムが、十分な検証なしに次々と投入されている点に強い懸念を示しています。

起草者たちは、この6カ月間の猶予を使って、外部の独立した専門家によって厳格に監査される共通の安全プロトコルを策定すべきだと提案しています。社会や政治に混乱をもたらす恐れがある以上、安全性が合理的な疑いを超えて確認されるまで、より巨大なモデルの訓練は控えるべきだという理屈です。

懸念は研究者だけの独り言ではありません。欧州警察機構（ユーロポール）も同週、ChatGPTのような高度なAIが悪用され、フィッシング詐欺や偽情報の拡散、サイバー犯罪を助長する危険性があると公式に警告を発していました。大手テック企業が安全倫理を後回しにして「先に出して後から直す」方針に傾く中、反発の声は着実に高まっています。

1000人超が署名も、管理の甘さが露呈

この書簡には1000人以上が署名しました。イーロン・マスク氏をはじめ、アップル共同創業者のスティーブ・ウォズニアック氏、スタビリティAIのイマード・モスタークCEO、ベストセラー作家のユヴァル・ノア・ハラリ氏、著名なAI研究者のヨシュア・ベンジオ氏やスチュアート・ラッセル氏など、錚々たる顔ぶれが並んでいます。

興味深いことに、書簡の中ではOpenAI自身も以前、将来のシステムには独立した第三者レビューが必要になる可能性に言及していた事実が引き合いに出されています。

一方で、署名プロセスの信頼性には課題も残りました。オンラインで広く受け付けたため、競合の中心人物であるOpenAIのサム・アルトマンCEOなどの偽名がいたずらで追加される事態が発生し、リストの精査に追われる場面もありました。

なぜ重要か

一般ユーザーやアプリ開発者にとって、現在提供されているGPT-4や各種ツールが明日いきなり使えなくなるわけではありません。しかし、もしこの提案が規制当局を動かせば、次世代の大規模モデルを利用するための審査や導入コストは格段に跳ね上がる可能性があります。

業界全体への影響としては、マイクロソフトやグーグルが莫大な投資を行っている最前線の開発を、この書簡だけで現実にストップさせるのは極めて困難です。ただし、これまで開発企業の内輪で議論されていたリスク管理の問題が、政治家や法規制の場へ一気に持ち出される決定打にはなります。

私たちの見立てでは、安全基準の確立という問題提起自体は真っ当であるものの、一律6カ月停止という手法はあまりに非現実的です。強制力のある国際的な監視体制がないまま停止を強いれば、ルールを守る誠実な研究所が開発ペースを落とし、無視する側に先を越されるだけという構造的欠陥を抱えています。実効性のある解決策というよりは、暴走する企業への強力な政治的牽制と見るのが自然でしょう。