米ホワイトハウス、AI評価枠組みを非公開へ：基準を機密指定

OpenAIとAnthropicのAIエージェントによる他社システム侵入が公表された直後、ホワイトハウスは主要AI企業を招集しました。しかし、そこで合意されつつある評価枠組みは、一般には一切非公開とされる見通しです。

Axiosが関係者3人の話として報じたところによると、米政府は先端AIモデルを評価するための新たな枠組みを公開しない方針を固めました。この枠組みはトランプ大統領の6月2日の大統領令に基づくもので、モデルの一般公開前に最大30日間、政府が事前アクセスしてサイバー攻撃能力などを任意で検証する手順を定めています。

非公開の基準と除外されたオープンモデル

ロイターなどの報道によると、火曜日に開かれた非公開会合にはOpenAI、Anthropic、Meta、Google、Nvidiaの担当者が出席しました。内容を知るのはこれら招かれた企業だけで、外部の研究者や政策立案者、米国の同盟国は完全に除外されています。さらに、サイバー能力を測るベンチマーク自体が機密扱いに指定されています。

また、ロイターによるとトランプ政権側は、MetaのLlamaやNvidiaのNemotronといったオープンウェイト型モデルについては、この任意の安全性テストの対象外とすることを開発元に伝えたとされます。検証の対象は、OpenAIやGoogleなどが握る商用クローズドモデルに絞られます。

水面下での動きに対し、議会や州政府からの反発も強まっています。民主党の上院議員5人は同日、先端モデルのテストを法制化して恒久的な義務とするよう大統領に求める書簡を送付しました。また、共和党の州司法長官15人がOpenAIのエージェントによるHugging Face侵入事案の調査に着手するなど、政府の対応の遅れに対する風当たりは強まっています。

なぜ重要か

サイバー攻撃を仕掛けかねない危険なAIモデルをリリース前に検知するという狙い自体は合理的です。しかし、今回のホワイトハウスの進め方には大きな死角があると私たちは考えています。

最大の問題は、参加が完全に任意であるうえ、ベンチマークが機密扱いになっている点です。どの開発企業が実際にモデルを提出し、どのような基準をクリアしたのか、外部の利用者や開発者には一切見えません。EUが包括的なAI法で強制的なモデル審査を進めているのに対し、米国の枠組みは大手テックと政府による密室の紳士協定にとどまっています。

オープンウェイトモデルがテスト対象から外されたことは、オープンソースを活用する開発者にとっては規制の足かせを免れた形ですが、クローズドモデルを運用する企業にとっては、自社の利用するAIの安全性が客観的に証明されない不透明さが残ります。