Google Brain創業者アンドリュー・ン氏、Googleの「AI兵器開発禁止」撤回を支持

7年前、数千人規模の社員による抗議デモを受けて、Googleは自社のAI原則に一つの約束を書き加えました。兵器や監視を目的としたAIシステムは絶対に作らない、という誓約です。

しかし今週、Googleはその約束を公式サイトから静かに削除しました。DeepMindのCEOであるDemis Hassabis氏もブログで、国家安全保障を支えるAIの開発に向けて企業と政府が連携すべきだと主張しました。

この方針転換を歓迎したのが、Google Brainの創設者であるAndrew Ng氏です。サンフランシスコで開催された退役軍人向けスタートアップ会議の登壇で、同氏はGoogleの姿勢の変化を非常に嬉しく思うと語りました。

国を守る兵士を企業が支援しない理由はない

Ng氏は、2018年に起きたProject Mavenに対する社員の抗議活動について、当時から困惑していたと明かしました。このプロジェクトは、米軍のドローン映像をAIで解析し、標的の精度を高めるものでした。

退役軍人が多く集まる会場で、Ng氏は強い口調で語りました。国民を守るために血を流す覚悟で前線に出ている兵士たちを、アメリカの企業が支援拒否するなど到底理解できないという理屈です。

抗議が起きた当時、Ng氏はすでにGoogleを離れていましたが、ニューラルネットワーク研究を牽引した同氏の発言力は依然として絶大です。現在はベンチャー支援組織AI Fundを率い、AI政策にも積極的に発言しています。

さらに同氏は、カリフォルニア州のSB 1047法案が拒否権を行使され、バイデン大統領のAI大統領令が覆されたことにも謝意を示しました。そうした規制は米国のオープンソースAI開発を停滞させるだけだと批判し、米国の真のAI安全保障は中国に技術で競り勝つことであり、AIドローンが戦場を一変させると訴えました。

7年にわたり二分された巨大テック企業の内情

軍事利用を後押しする元幹部はNg氏だけではありません。Googleの元CEOであるEric Schmidt氏も、中国に対抗するためAIドローンの導入を求めてワシントンで精力的にロビー活動を行っており、自身が関わるWhite Stork社を通じてドローンを納入する動きを見せています。

一方で、社内の対立は今も根深く残っています。2018年の抗議を主導し、現在はSignalの代表を務めるMeredith Whittaker氏は、企業は戦争ビジネスに関わるべきではないと一貫して主張してきました。

ノーベル物理学賞を受賞した元GoogleのGeoffrey Hinton氏も、AI兵器の世界的な禁止や規制を求めています。さらに現在DeepMindの首席科学者を務めるJeff Dean氏でさえ、かつて自律型兵器への機械学習適用に反対する書簡に署名していました。

イスラエル軍向けクラウド支援を行うProject Nimbusをめぐり、昨年もGoogleとAmazonのオフィスで社員による座り込み抗議が起きたばかりです。それでもペンタゴン側のAI需要は膨らみ続けており、数千億ドルもの巨額インフラ投資を回収したい大手テック企業にとって、防衛予算は無視できない収益源となっています。

なぜ重要か

エンジニアや防衛系スタートアップにとって、Googleの防衛規制撤廃は、軍事テックに関わることへの心理的障壁が事実上消滅したことを意味します。これまでタブー視されてきた国防プロジェクトが、一気にメインストリームの開発領域へと引き上げられました。

業界全体で見れば、シリコンバレーが掲げてきた倫理的制約の時代が終わりを告げたと言えます。数千億ドル規模のAIデータセンター投資の負担にあえぐ中、MicrosoftやAmazon、Googleがペンタゴンの大型契約を奪い合う構図がより鮮明になりました。

Ng氏の主張は退役軍人の感情には寄り添っていますが、武器開発反対を単なる非愛国的な行為として片付けるのは短絡的だと考えられます。標的識別の誤作動や自律型致死兵器の責任追及といった本質的な倫理問題は、何ら解決されていません。

地政学的な競争を口実に軍備競争へ雪崩れ込む動きは、短期的には巨額の収益をもたらすかもしれませんが、テック企業が自ら築いてきたAI倫理の枠組みを根底から空洞化させる危うさを孕んでいます。