英ブレッチリー宣言が採択、米商務省もAI安全研究所の設立を発表

かつて暗号解読の舞台となった英国ブレッチリー・パークに各国の首脳陣が集まり、AIの覇権争いから一転してリスク管理での協調を打ち出しました。

英国で開催されたAI安全サミットにおいて、同国のミシェル・ドネラン技術相が「ブレッチリー宣言」を発表しました。開発が進むAIがもたらすリスクに対処するため、世界的な合意形成を目指す文書です。

この会議は一度きりでは終わりません。ドネラン技術相によると、サミットは定期開催される予定で、6カ月後には韓国で、そのさらに6カ月後にはフランスで開催されます。

公表された文書の内容は理念的なトーンが中心で、AIは安全で人間中心、信頼でき責任ある形で設計・開発・配備・利用されるべきだと確認しています。

一方で、OpenAIやMeta、Googleなどが開発する大規模言語モデルや基盤モデルに明確に言及し、悪用や危害をもたらす「フロンティアAI」のリスクに警戒を促しました。

具体的な政策の動きも出ています。米国のジーナ・レモンド商務長官は、商務省傘下の国立標準技術研究所（NIST）内に「AI安全研究所」を新設すると発表しました。

レモンド長官は、この新組織が英国が設置を計画している安全研究所など他国の組織と緊密に連携し、世界規模での政策協調を進めると述べています。

登壇した顔ぶれは主要先進国にとどまりませんでした。グローバルサウスと呼ばれる新興国の代表も plenary セッションに参加しました。

中国の呉朝暉科学技術部副部長、欧州連合のベラ・ヨウロヴァ副委員長、インドのラジーブ・チャンドラセカール電子情報技術担当閣外相、アラブ首長国連邦のオマル・スルタン・アル・オラマAI担当国務相、ナイジェリアのボス・ティジャニ技術相らが一堂に会しました。

しかし、各国の熱意がどこまで実効性を持つかはまだ未知数です。

英国政府の基盤モデルタスクフォースを率いる投資家・エンジニアのイアン・ホガース氏は、強力な機械を作る競争が社会の防衛能力を追い抜いてしまう懸念を率直に示しました。

ホガース氏は、次の計算能力の飛躍が恩恵になるか害になるか誰にも分かっておらず、現在の理解不足は驚くべき水準だと危機感をあらわにしました。

なぜ重要か

一般ユーザーやアプリ開発者にとって、この宣言によって今すぐAPIの仕様や利用制限が変わるわけではありません。しかし、各国の規制の目が個別のアプリではなく、最先端のフロンティアモデルそのものに絞り込まれたことは極めて重要です。

米中両国や欧州、さらには新興国までを同じテーブルに着かせた点で、英国の外交的な立ち回りは非常に巧みだったと考えられます。ハイテク覇権を巡る対立が続く中でも、「AIの暴走を防ぐ」という共通項で最低限の対話窓口が確保されました。

米国がNIST内に安全研究所を置いた動きは、今後の規制が技術的な評価基準やベンチマーク中心に進むことを示唆しています。今後はモデルを一般公開する前に、公的な評価機関による検査が事実上の前提になる可能性があります。

懸念されるのは拘束力の弱さです。合意文書はあくまで理念にとどまり、激化する開発競争の中でどこまで実効性のある足並みを揃えられるかは、半年後の韓国サミットでの進展を見極める必要があります。