米英など18カ国が合意：AI開発に「設計段階からの安全性」を要求

AI開発競争が過熱する中、多くの企業が機能の派手さや市場投入のスピード、価格破壊を優先してきました。しかし、土台となるシステムの防御が甘ければ、乗っ取りや悪用のリスクは跳ね上がります。

米国と英国をはじめとする18カ国は、AIを設計段階から安全にする「セキュア・バイ・デザイン（secure by design）」を企業に促す初の詳細な国際指針をまとめ、20ページに及ぶ合意文書を公表しました。

派手な新機能より安全を優先せよ

署名国には英米のほか、ドイツ、イタリア、エストニア、ポーランド、オーストラリア、チリ、シンガポール、ナイジェリアなどが名を連ねています。一方で、The Vergeが指摘するように、中国は含まれていません。

米サイバーセキュリティ・インフラ安全保障局（CISA）のジェン・イースタリー長官はロイターに対し、AIを単にクールな機能や低コスト競争、投入速度だけで評価すべきではないと各国が合意した初の機会だと強調しました。

指針では、不正利用の継続的な監視、データ改ざんの防止、ソフトウェア供給元の厳格な審査、そして適切なセキュリティテストを経た後にのみモデルを公開することなどが推奨されています。ハッカーによるシステムのハイジャックを防ぐことが狙いです。

ただし、この合意には法的な拘束力はなく、罰則もありません。さらに、モデルの学習データの収集方法や、AIの適切な利用範囲といった論争の多い核心的な問題には踏み込んでいません。

なぜ重要か

AIシステムを開発するエンジニアや企業にとって、今回の指針は将来的な調達要件の予兆となります。法的な義務ではないものの、多国籍企業や政府機関を相手にビジネスを行う場合、サプライヤー審査やデータ保護といった安全設計の基準をクリアしているかどうかが、実質的な参入障壁になっていくと考えられます。

業界全体にとっても、スピード一辺倒だった開発競争に「安全性を最初から組み込む」というブレーキ役の視点を持ち込んだ意義は小さくありません。

もっとも、私たちの見立てでは、この合意は合意しやすい防御策だけを切り取った妥協の産物でもあります。データの著作権侵害や利用規制といったテック大手の利害が激突する問題を避け、拘束力を持たない勧告にとどめたため、暴走する市場競争をどこまで抑え込めるかは依然として不透明です。