米政府、新AIモデルを事前審査へ　Google・Microsoft・xAIが合意

最先端のAIモデルを一般公開する前に、まず米政府がチェックする流れが固まりつつある。

CAISIの事前審査、GoogleやxAIにも拡大

米商務省の人工知能標準・革新センター（CAISI）は、Google DeepMind、Microsoft、イーロン・マスク氏率いるxAIの3社と合意したことを明らかにした。新型モデルの公開前に配備前評価や標的型調査を行い、フロンティアAIの能力や国家安全保障への影響を精査する。

CAISIによる審査は今回が初めてではない。2024年からOpenAIやAnthropicと連携しており、これまでに40件のモデルレビューを実施してきた。

Bloombergによると、OpenAIとAnthropicはドナルド・トランプ大統領の「AI行動計画」の優先事項に合わせる形で、既存の合意内容を再交渉したという。

さらにThe New York Timesは、米政府関係者とテック幹部を集めて新モデルを監督する大統領令をトランプ氏が検討しているとも報じている。

なぜ重要か

米国で最先端モデルを開発する主要プレイヤーが、ほぼ例外なく政府による事前審査の枠組みに収まったことになる。

一般ユーザーや開発者にとって直ちに利用環境が変わるわけではないが、次世代フロンティアモデルの公開ペースが慎重になったり、リスクが高いとされる能力へのアクセスが制限されたりする可能性はある。

テック企業側にとっても、議会から厳しい規制法案を課される前に、自発的な評価プログラムを受け入れて協調姿勢を示すほうが現実的という判断だろう。

ただし、審査の重点が政権の意向や政策方針に左右され始めている点には注意が必要だ。技術的な安全性検証と政治的な思惑の線引きが曖昧になる懸念は残る。