米政府AI担当のサックス氏、Anthropicの「事前審査」要求を規制の虜と批判

普段はSNSに滅多に投稿しないAnthropicのCEO、Dario Amodei氏がX上で異例の反論を行い、これに対してホワイトハウスのAI責任者を務めるDavid Sacks氏が真っ向から批判を展開しました。

発端は投資家のGavin Baker氏がポッドキャストなどで語った内容でした。Baker氏は、Anthropicが世界唯一の民間企業になろうとしているという噂や、Amodei氏の過度なAI危機論が全米のデータセンター建設反対運動の口実になっていると指摘しました。

これに対しAmodei氏は、規制をすべて既得権益の保護とみなすのは短絡的だと主張しました。AIが中央集権化しやすいのは規制のせいではなく計算資源やスケーリング則の性質であり、自社の提案はむしろ先行企業を減速させて小規模な競合を支援するものだと説明しました。

「AIのFDA」か、それとも「AIの免許センター」か

しかしSacks氏はこの反論を真っ向から否定し、Amodei氏が恐怖を煽って規制を自社に有利に誘導していると非難しました。

Sacks氏はノーベル経済学賞受賞者のジョージ・スティグラーの理論を引き合いに出し、Anthropicがバイデン政権の元AI政策担当者を複数雇用し、ロビー活動を展開している実態を指摘しました。官民の回転ドアを利用して自社に都合の良い規制を作ろうとしているという主張です。

対立の核心にあるのは、モデル公開前の事前審査制度です。Amodei氏はこれまでFDAやFAA、あるいは金融業規制機構のような機関によるモデル審査を提唱してきました。これに対してSacks氏は、そうした仕組みはイノベーションを滞らせる「AIのためのDMV（車両管理局）」に過ぎないと批判しました。

Sacks氏によれば、仮定の害悪を防ぐための複雑なルールは開発を遅らせ、同様の制約を持たない中国に対して米国を不利にします。さらに、オープンソースモデルにも同等の審査を義務付けることで、事実上オープンモデルを締め出し、高価なクローズドモデルの独占を狙っていると指摘しました。

なぜ重要か

私たちは、この対立が今後のAIエコシステムの行方を左右する決定的な思想闘争を浮き彫りにしたと考えています。フロンティアAIは分散させるには危険すぎるのか、それとも中央集権化させることこそが最大の危険なのかという問いです。

開発者やスタートアップにとって、事前審査機関の設立は死活問題になります。仮に一定の売上以下の免除規定が設けられたとしても、上位モデルに迫ろうとするオープンモデルが厳しい事前審査に縛られれば、少数のメガ企業以外はフロンティア競争から脱落せざるを得なくなります。

Anthropicの戦略は、安全性と責任ある姿勢をアピールして大企業や政府の信頼を得る点では巧妙に見えます。しかし、過去に公表した「5年以内に初級知識労働の半分が失われる」といった予測に十分な根拠が示されないまま規制強化を求め続ければ、現場のエンジニアやオープンソースコミュニティからの信頼を失うリスクを抱えています。

Amodei氏は「実際に癌を治療するような成果」を出して初めて信頼が回復すると語りましたが、過度な危機論と事前承認制度のセットが技術の進歩そのものを遅らせては本末転倒です。規制当局と巨大研究所の結託による参入障壁づくりには、強い警戒が必要だと考えられます。