Amazon の CEO が安全性に懸念、Anthropic 新モデルへの米輸出規制を誘発

ビジネスの世界でも、最大の出資者が自社の最新製品をめぐって政府に告発するような事態は滅多にありません。

Anthropicが6月9日に発表した最新AIモデル「Claude Fable 5」と「Mythos 5」に対し、トランプ米政権は6月12日、突如として外国籍の個人によるアクセスを制限する輸出管理措置を発動しました。技術的な選別が困難なことから、Anthropicは両モデルの全世界向け提供を完全に停止せざるを得なくなりました。

米ウォール・ストリート・ジャーナルなどの報道によると、この異例の措置の発端は、主要出資者であるAmazonの最高経営責任者アンディ・ジャシー氏によるホワイトハウスへの直訴でした。

越獄リスクの密告と24時間の通告

報道によると、ジャシー氏はスコット・ベッセント財務長官をはじめとする政府高官に対し、Amazonの研究陣がFable 5を脱獄させ、サイバー攻撃に悪用可能な情報を引き出すことに成功したと報告しました。

大統領科学技術諮問委員会の共同議長を務めるデビッド・サックス氏は、政府が信頼できるパートナーからの情報提供を受け、Anthropicのダリオ・アモデイCEOに脆弱性の修正またはモデルの取り下げを求めたものの、アモデイ氏がこれを拒否したと明かしています。

Anthropic側は即座に反論しました。限定的な脱獄の可能性を理由に、数億人が利用する商用モデルを市場から強制退場させるのは不当であり、同等の能力はすでに公開されている他社モデルにも存在すると主張しています。

Amazonの広報担当者は、政府から安全保障上の助言を求められることは珍しくないとコメントし、詳細の言及を避けていますが、同社のクラウド基盤であるAWSもこの停止措置による影響を受けています。

なぜ重要か

今回の騒動は、AIの安全性規制が客観的な基準ではなく、ビッグテック幹部と政権の政治的なパイプによって左右される前例を作ってしまったと私たちは考えています。

開発者や導入企業にとっては、深刻な事業継続リスクを突きつけられた形です。どれほど高性能なモデルであっても、パートナー企業の密告と政府の電撃命令によって、わずか24時間で利用不能になるリスクが現実のものとなりました。特定のクローズドモデルに依存するリスクがかつてなく高まっています。

また、大統領令や輸出規制を武器にした介入のやり方には強い疑問が残ります。サイバー攻撃に転用可能な知識の出力はフロンティアモデル全般が抱える課題であり、Anthropicだけを狙い撃ちにして突然強制停止させるアプローチは、透明性のある安全対策を促すどころか、AI業界全体の開発意欲を冷え込ませる危うさを孕んでいます。