ソウルAIサミット、日英米韓など10カ国とEUが安全研究網で合意　主要16社も誓約

英国のブレッチリー・パークで開催された初のAI安全サミットから約半年。議論の舞台は韓国・ソウルへと移り、世界の大手AI企業が「リスクを制御できないモデルはリリースしない」という異例の約束を交わしました。

英韓両政府が共催する「AIソウル・サミット」が開幕。初日の会合で、世界の主要AI企業16社がAIの安全性に関する国際的なコミットメントに署名しました。

基準を超えたら開発・配備を停止

参加したのはOpenAI、Google、Meta、Microsoft、Anthropic、xAI、Amazonなどの米大手にとどまりません。フランスのMistral AI、UAEのTechnology Innovation Institute、韓国のサムスン電子、そして中国の智譜AI（Zhipu.ai）も名を連ねました。

英国政府の発表によると、各社はリスク低減策によってリスクを所定のしきい値未満に抑えられない場合、当該モデルやシステムを「一切開発・配備しない」ことで合意しました。

英国のスナク首相は、世界中のこれほど多様な地域から主要企業が集まり、同一の安全基準に合意したのは世界初だと評価しています。

国家間の連携も強化されました。日本、米国、英国、韓国、オーストラリア、カナダ、フランス、ドイツ、イタリア、シンガポール、そしてEUの計10カ国と地域が、英国のAI安全研究所（AISI）のような研究機関を結ぶ国際ネットワークの構築に合意しました。

先月には米英間で安全評価に関する協力協定が結ばれたばかりですが、今回の合意により、安全性研究や評価基準のすり合わせが多国間枠組みへと一気に拡大した形です。

なぜ重要か

今回の合意で最も注目すべきは、主要企業が自ら「開発やリリースの停止基準」を認めた点にあると私たちは考えます。

一般の開発者や企業ユーザーにとっても、この動きは無関係ではありません。フロンティアモデルを開発する側が事前に安全基準を設けることで、APIや基盤モデルを利用する際の暴走リスクや悪用耐性が、一定水準担保される期待が持てます。

地政学的な意味合いも極めて大きいです。OpenAIやMetaと並んで中国の智譜AIが合意に加わったことは象徴的です。AIの安全性は一国だけで達成できるものではなく、米中双方のプレイヤーが同じ土俵で透明性を約束した意義は無視できません。

ただし、最大の課題は「拘束力と評価の客観性」です。何をもって危険なしきい値とするのか、その測定を誰が検証するのかという具体策は各社の裁量に依存しています。熾烈な開発競争の中で、本当に企業が自発的にブレーキを踏めるのかどうかは、今後の枠組みの実効性にかかっています。