Anthropicのダリオ・アモデイCEO、AIのFAA型規制を提言　危険な配備の阻止権限を要求

『指輪物語』に登場するエントの木の髭は、仲間に挨拶するだけで丸一日かかりますが、ホビットたちはその横を猛スピードで駆け抜けていきます。Anthropicのダリオ・アモデイCEOにとって、現在のAI開発と政策立案のタイムスケールのズレは、まさにこの光景そのものです。

アモデイ氏は6月10日、政策提言の長文エッセイを公開し、AIの指数関数的な進化に規制が早急に追いつく必要があると訴えました。あわせて同社は、フロンティアモデルのテストに関する具体的な法案提案と、AIによる雇用代替への対策フレームワークを公開し、資金面でも支援を行う方針を示しました。

「透明性」の時代は終わり、航空機並みの配備阻止権限を

これまでAnthropicなどの安全推進派は、カリフォルニア州のSB 53やニューヨーク州のRAISEなど、企業にテスト体制の開示を求める透明性法案の成立を後押ししてきました。何が起きるか見極める段階では、それが現実的な手段だったためです。

しかしアモデイ氏は、その段階はすでに過ぎたと断言します。転換点となったのはClaude Mythos Previewです。このモデルが世界のサイバーセキュリティ環境を大きく揺るがしたことで、フロンティアAIが国家戦略レベルの影響力を持つことが誰の目にも明らかになりました。

そこでアモデイ氏が提唱したのが、米連邦航空局（FAA）に代表される航空機型の規制モデルです。安全基準を満たさない航空機が離陸を禁じられるのと同様に、一定の計算量を超える先進モデルには適格な第三者による事前テストを義務付け、基準未達の場合は政府が配備を阻止・撤回できる権限を持つべきだと主張しています。

監査対象はサイバーセキュリティ、生物兵器、制御喪失、そしてこれらを加速させる自動研究開発の4分野に厳格に限定されます。また、モデルの重み（ウェイト）に対する厳重なセキュリティ基準やインシデントの迅速な報告も義務付け項目に含まれています。

爆発的成長と雇用代替への備え

アモデイ氏は技術的リスクにとどまらず、マクロ経済への影響にも踏み込みました。データセンター内に「天才だけで構成された国家」が出現すれば、科学や産業の効率化によって前例のない爆発的成長がもたらされる可能性があります。

しかしAIが人間の認知能力を広範に代替する場合、社会は超成長と超格差が固定化された極端な状況に陥りかねません。雇用が長期にわたって奪われる事態は絶対に避けるべき危険であり、成長の促進よりも果実をどう分配するかが課題になると警告しています。

なぜ重要か

今回の提言は、AI開発をリードするトップ企業自らが規制の枠組みを先手を打って定義しにいった点が極めて巧みです。

業界全体にとって、第三者監査や政府による配備阻止権限が現実化すれば、先進モデル開発の参入障壁は一気に跳ね上がります。巨額の資金を持つ大手ラボは監査体制を整えられますが、急速に追い上げる新興勢力やオープンソース陣営にとっては重い足かせになり得ます。

一方で一般ユーザーや企業にとっては、安全性やサイバー攻撃への耐性が担保されたモデルを利用できるようになる利点があります。リリースまでの期間は長期化するかもしれませんが、壊滅的なインシデントに巻き込まれるリスクは確実に抑えられます。

課題となるのは、政府にAIのFAAを担うだけの専門性と公正さを維持できるかという点です。政治的な恣意性に左右されれば技術革新を殺しかねません。それでもトップ自らが首輪を差し出したことで、AI安全論争は自主規制から強制力を持つ法制化へと確実に舵を切りました。