ノーベル賞受賞者ら200人超、2026年末までにAIの「レッドライン」設定を要請

原子力発電所をつくるとき、人類はまず爆発を止める手立てを考えてから炉に火を入れました。しかしAI開発の現場では、その順序が逆転しかけています。

ニューヨークで開かれる第80回国連総会のハイレベル週を前に、200人を超える元国家元首、外交官、ノーベル賞受賞者、そして最前線のAI研究者が結束しました。参加者らは70以上の団体とともに、AIが絶対に越えてはならないレッドラインについて、2026年末までに国際的な政治合意を結ぶよう各国政府に求める共同声明を発表しました。

署名者にはノーベル賞受賞者のジェフリー・ヒントン氏をはじめ、OpenAI共同創業者ヴォイチェフ・ザレンバ氏、Anthropicの最高情報セキュリティ責任者ジェイソン・クリントン氏、Google DeepMindの研究者イアン・グッドフェロー氏らが名を連ねています。

決して踏み込ませてはならない領域

主導団体の一つであるフランスAI安全センターのシャルベル＝ラファエル・セジュリー氏は、各国がAIで何をしたいかで合意できないなら、少なくとも何を決してさせてはならないかで合意すべきだと記者団に語りました。

掲げられたレッドラインの具体例には、AIが人間になりすますことの禁止や、自己複製を行うことの禁止が含まれています。

国連総会の開会あいさつでは、ノーベル平和賞受賞者のマリア・レッサ氏もこの取り組みに触れ、世界的な説明責任を通じて巨大IT企業の免責状態に終止符を打つべきだと訴えました。

地域的なルール自体はすでに存在します。EUのAI法は受け入れがたいAI利用を禁止しており、米中間でも核兵器の運用権限をAIではなく人間に委ねる合意が交わされています。しかし、世界共通の明確な合意はまだありません。

フューチャー・ソサエティのニキ・イリアディス氏は、AI企業が独自に定める責任あるスケーリング方針などの自主的な誓約では実効性に欠けると指摘しました。最終的には、規則を定めて監視し、強制できる権限を持った独立した国際機関が必要だといいます。

カリフォルニア大学バークレー校のスチュアート・ラッセル教授は、規制が技術革新を阻むという主張を一蹴しました。医療診断などの経済的恩恵を受けるために制御不能なAGIを受け入れなければならないという二項対立は、まったくナンセンスだと述べています。

なぜ重要か

今回の提案が巧妙なのは、抽象的な倫理論を脇に置き、自己複製や人間の偽装といった誰もが危機感を共有しやすい具体的な項目に絞り込んだ点にあります。

一般の開発者や企業にとっても、破滅的な暴走リスクに限定した明確な禁止線が引かれることは歓迎すべき動きです。業務効率化やデータ分析といった日常的なAI活用が過剰な規制に巻き込まれにくくなるからです。

問題は2026年末という期限の短さと、それを監視する仕組みの難しさにあります。多国間外交でこれほど短期間に拘束力のある合意を取りまとめるのは極めてハードルが高いと言わざるを得ません。

さらに、実効性のある国際機関をつくるとなれば、企業の機密であるモデルの重みやデータセンターへの監査権限をどう担保するかという壁に直面します。

それでも、OpenAIの共同創業者やAnthropicのセキュリティ責任者自身がこうした国際規制を求めて署名した事実は重く、業界が自主規制だけで乗り切るのはもはや難しくなりつつあります。