AI開発の一時減速を求める業界の訴えに、トランプ氏と米下院議長が猛反発

普段は激しい競争を繰り広げているシリコンバレーのトップたちが、珍しく足並みを揃えて「AI開発の減速」を求めました。しかし、政治の世界からは即座に冷や水が浴びせられています。

発端は9月12日、AnthropicのCEOであるDario Amodei氏が公開した書簡でした。同氏は「最先端の歩調を合わせる（Pace the Frontier）」べきだと主張し、最も高度なAIの開発スピードを意図的に落とすよう提言しました。具体策として、AI企業内部に外部評価チームを常駐させることや、民主主義国間での協調、国際的な合意形成を挙げています。

この提案には、ライバルたちも相次いで賛意を示しました。OpenAIのSam Altman氏は、外部評価者に一般社員と同等のアクセス権を与えると表明し、Elon Musk氏も「Darioは正しい」と投稿しました。Alphabet傘下のDemis Hassabis氏も限定的ながら支持を表明しています。

政治側は「ブレーキを踏めば中国に負ける」と猛反発

しかし、この動きに待ったをかけたのが米国の政治家たちです。

ドナルド・トランプ氏はフィナンシャル・タイムズの取材に対し、「米国はAIで中国をリードしており、その状態を維持したい。なぜならAIを制する者がすべてを制するからだ」と語り、開発減速に否定的な姿勢を示しました。AP通信によると、同氏は自身のSNS「Truth Social」で、AIによる人類破滅の警告を気候変動問題になぞらえて「デマ（HOAX）」と一蹴し、「高い知能を持つ大統領」こそが唯一必要なセーフガードだと主張しました。

マイク・ジョンソン米下院議長もCNNの番組で同様の懸念を表明しました。キャスターのJake Tapper氏に対し、AI規制を拙速に進めること自体が「国家安全保障上の脅威」になり得ると指摘し、議会が慌てて緊急会期を開いて規制をかければ、米国は中国との開発競争に敗北することになると警告しました。

警戒感を強める北京と、見通せない国際協調

反発は海を越えた中国からも起きています。Amodei氏の提案が、中国のAI覇権は米国の安全保障を脅かすとして最先端半導体の輸出規制維持を求めていたためです。

中国外交部の郭嘉昆報道官は9月14日の定例会見で、恐怖の煽動や対立、悪質な競争を批判し、開放的で包摂的なAIガバナンスを呼びかけました。中国共産党機関紙系の環球時報も前日の社説で、このアプローチを「冷戦の常套手段」と非難しています。

トランプ氏と習近平国家主席は9月24日に会談を予定しており、AIガバナンスも議題になると見られています。ただ、トランプ氏が破滅的リスクそのものを否定し、中国側が規制包囲網に反発している現状では、実効性のある減速合意を結ぶのは極めて難しい情勢です。Amodei氏自身も、全面的な開発停止よりも、生物兵器への悪用防止や公開前テストの義務化といった限定的な分野のほうが現実的な合意点になり得ると指摘しています。

なぜ重要か

私たちは、今回の出来事が最先端AIを取り巻く「囚人のジレンマ」の深刻さを浮き彫りにしたと考えています。

開発者やユーザーにとって、Altman氏やAmodei氏、Musk氏らが揃って慎重姿勢を求めた事実は重い意味を持ちます。現場でモデルを作っている当事者たちが、システムの進化スピードに危機感を抱いていることの証左だからです。

しかし、開発ペースの議論が米中対立という地政学の文脈に完全に組み込まれてしまった以上、政府主導で一斉にブレーキをかける枠組みは当面期待できません。一社だけが倫理観から開発を遅らせれば、競合他社や他国にシェアを奪われる構造はそのまま残ります。

結局のところ、試されるのは各AI企業の自浄能力です。Altman氏が約束したように、外部の監査人に社内と同等の調査権限を与え、もし危険な兆候が見つかったときに本当に開発を止められるのか。政治の後ろ盾が得られない中、自ら掲げたセーフガードをどこまで誠実に実行できるかが、言葉の真偽を分けることになりそうです。