米国土安全保障省がAI安全委員会を設立：アルトマン氏やナデラ氏らが参加

電力網がAIを悪用したサイバー攻撃でダウンしたり、空港の運航システムが混乱に陥ったりしたらどうなるのか。米政府は、AIを作る側とインフラを守る側を同じテーブルに着かせることにしました。

国土安全保障省（DHS）は金曜日、電力網や空港といった重要インフラをAI関連の脅威から守るための助言組織「人工知能安全・セキュリティ委員会」を新設しました。初代メンバーは22人で構成されます。

参加者には、OpenAIのサム・アルトマンCEO、マイクロソフトのサティア・ナデラCEO兼会長、アルファベットのスンダー・ピチャイCEOといった米テクノロジー界のトップが名を連ねています。

ビッグテックと現場トップが同席

今回の設置は突然のものではなく、バイデン大統領が10月に署名したAIに関する大統領令に基づく動きです。ChatGPTが普及して以来、米連邦政府として本格的な規制枠組み作りに乗り出した格好です。

委員会の任務は、国家安全保障や経済、公衆衛生に影響を与える重要インフラの機能停止を防ぐための提言をまとめることです。

専門家は、自律型ドローン群による攻撃や安価で致命的な生物兵器の製造、重要システムへの高度なハッキングといった脅威を懸念しています。DHSは、こうした攻撃に対抗するために「AIを使ってAIと戦う」防衛策も視野に入れていると説明しています。

注目すべきは、メンバーがテック大手に限らない点です。デルタ航空、防衛大手ノースロップ・グラマン、石油大手オキシデンタル・ペトロリアムの各CEOが参加しています。さらに、メリーランド州のウェス・ムーア知事やシアトル市長のブルース・ハレル氏、2つの市民権団体の代表も加わりました。

国土安全保障省のアレハンドロ・マヨルカス長官は、AIは国益を前進させる一方で現実の脅威をもたらすとして、ベストプラクティスと具体的な対策によってリスクを軽減していく方針を示しています。

なぜ重要か

エネルギーや交通、通信などのインフラ企業に携わる人にとって、この委員会が策定する基準はいずれ具体的なセキュリティ要件や調達基準として降りてくる可能性が高い動きです。今からAI関連の脅威をリスク管理の射程に入れておく必要があります。

政策の進め方としては、先端モデルを開発する側と、真っ先に被害を受ける現場のインフラ事業者を同席させた点は巧みです。机上の空論ではなく、実際のインフラ運用に即した実効性のあるガイドラインが期待できます。

一方で懸念もあります。OpenAIやマイクロソフト、グーグルといった寡占プレイヤーが自ら安全基準のルール作りに深く関与することで、結果的に自社の地位を強固にする参入障壁を作ってしまう懸念です。オープンソース勢や後発のスタートアップが排除されないか、今後の提言内容を注視する必要があります。