米政府、OpenAIとAnthropicの新モデルを公開前後に安全性テストへ

これまで最先端AIの安全性テストといえば、開発企業自身による自主点検が基本でした。その構図に政府が踏み込みました。

米商務省国立標準技術研究所（NIST）傘下の米AI安全研究所（US AISI）は8月29日、OpenAIおよびAnthropicと覚書（MOU）を締結したと発表しました。主要な新型AIモデルについて、一般公開の前後両方において同研究所がアクセスし、安全性テストやリスク評価を行うことで合意しました。

公開前に政府へモデルを提出

この取り決めにより、同研究所は英国のパートナー機関とも連携しながら、モデルの潜在的リスクを精査し、改善に向けたフィードバックを両社に提供します。

研究所の所長を務めるエリザベス・ケリー氏は、今回の合意は重要な節目だが、まだ始まりにすぎないと述べました。OpenAIのサム・アルトマンCEOはX（旧Twitter）で合意への歓迎を表明し、Anthropic共同創業者のジャック・クラーク氏も、研究所の知見を活かして公開前に厳格な検証ができると評価しています。

足元では、OpenAIが週間アクティブユーザー数2億人を突破し、スライブ・キャピタル主導で1000億ドル超の評価額による資金調達を協議中と報じられています。アマゾンが支援するAnthropicも直近の評価額が184億ドルに達しており、急成長するメガスタートアップ2社が揃って政府の介入を受け入れた形です。

カリフォルニア州法案の影

今回の合意の背景には、強まる規制圧力があります。前日の8月28日、カリフォルニア州議会は先端AIモデルの安全性試験を義務付ける法案「SB 1047」を可決し、ギャビン・ニューサム州知事の署名待ちとなっていました。

OpenAIやAnthropicなどは、SB 1047がイノベーションを阻害しオープンソースコミュニティに打撃を与えるとして懸念を示してきました。バイデン政権が2023年10月の大統領令に基づいて設立したUS AISIとの自主的な覚書を結ぶことで、州ごとの厳罰的な法制化を牽制したい狙いが見え隠れします。

また、6月にはOpenAIの現職・元従業員が、企業の自主性に任せる安全性管理の限界を訴える公開書簡を発表していました。米司法省や連邦取引委員会（FTC）による反トラスト法関連の調査も報じられるなか、連邦政府との協調姿勢をアピールすることは両社にとって急務でした。

なぜ重要か

私たちは、今回の動きが規制逃れと信頼獲得の両方を狙った極めて戦略的な一手だと見ています。

一般ユーザーや法人にとって、公開前に米英の公的機関がモデルの検証に関わることは、倫理的リスクや予期せぬ不具合に対する安心材料になります。特に業務導入を進める企業にとって、採用のハードルを下げる効果はあります。

一方で業界全体に目を向けると、この枠組みには限界もあります。今回の覚書はあくまで自主的な合意であり、研究所が危険を指摘したとしても法的に公開を差し止める強制力はありません。法的責任を伴うカリフォルニア州法案に比べれば、企業側にとってかなり都合の良い着地点です。

さらに懸念されるのは、開発プロセスの固定化です。公開前の審査が事実上の標準になれば、審査対応のリソースを持たないスタートアップやオープンソース開発者が不利になる可能性があります。官民の主要プレイヤーだけで安全基準が作られていく流れには、注視が必要です。