AIによる人類滅亡リスクへの対策を──Altman氏やHinton氏ら幹部・学者が共同声明

パンデミックや核戦争と同じレベルで、AIによる人類絶滅のリスクを警戒すべきだという警告が出されました。

発信したのはAIの安全性を研究する非営利団体Center for AI Safetyです。公開された声明文は、解説や前置きを一切省いた、わずか1文のみの極めて異例なものとなっています。

その内容は、AIによる人類絶滅の危機を低減することは、感染症の大流行や核戦争と並び、世界的な優先課題として取り組むべきだという直球のメッセージです。

開発の主役たちが揃って署名

この短いメッセージが世界中に大きな衝撃を与えている理由は、署名者の顔ぶれにあります。AI開発の最前線に立つ主要な人物が、企業の垣根を越えて名を連ねました。

現代の深層学習の基礎を築いたチューリング賞受賞者のジェフリー・ヒントン氏やヨシュア・ベンジオ氏が参加しています。ヒントン氏はAIのリスクを自由に語るためにGoogleを退職したばかりでした。

さらに、実用化を競い合っているトップ企業のリーダーたちも足並みを揃えています。OpenAIのサム・アルトマンCEO、共同創業者のイリヤ・サツケヴァー氏、ミラ・ムラティCTOが揃って署名しました。

Google DeepMindのデミス・ハサビスCEO、Anthropicのダリオ・アモデイCEO、マイクロソフトのケビン・スコットCTO、そしてビル・ゲイツ氏も名前を連ねています。さらに清華大学の張亜勤氏をはじめとする各国の研究者も加わっています。

主催側は、これまでAIによる最悪の破局リスクを口にすることは専門家の間でもハードルが高かったと説明しています。あえて余計な主張を削ぎ落として1文に絞ることで、幅広い識者が合意できる共通の土台を作った形です。

なぜ重要か

私たちは、この声明がAIをめぐる議論の前提を根底から変えたと考えています。

これまでの規制の議論は、著作権の侵害、偽情報の拡散、雇用の喪失といった身近な問題に集中していました。しかし今回の発表によって、核兵器や未知のウイルスと同列の生存リスクという枠組みが公に認められることになりました。

1文だけに絞って各社の対立を避けた手法は見事ですが、危うさも同居しています。最前線で利益を追求している巨大テック企業自らが破滅のリスクを叫ぶことで、厳格な許認可制などの参入障壁が作られ、オープンソース勢や後発のスタートアップが締め出される懸念があります。

一般の開発者やユーザーにとっては、今日明日に破滅が訪れるわけでも、モデルの進化が止まるわけでもありません。ただし、各国政府による法規制の波は確実に早まるため、今後は技術の活用だけでなくコンプライアンス面への備えを急ぐ必要があります。