Metaのザッカーバーグ氏、AI開発の共同減速に反対表明：安全性は各社の責任

AI開発を意図的に減速させるべきかという議論に対し、Metaのマーク・ザッカーバーグCEOが真っ向から異を唱えました。

ザッカーバーグ氏は9月15日のSNS投稿で、業界横断で足並みを揃えてAI開発を遅らせる構想への参加を否定しました。AIの安全性確保は各企業が自ら果たすべき責任であり、業界全体の共同義務ではないという立場です。

この発言は、Anthropicのダリオ・アモデイCEOが発表した提言「We Must Pace the Frontier」を受けたものです。アモデイ氏は、外部評価者の受け入れや民主主義国間での協調を通じて、先端AIの進化スピードをコントロールすべきだと主張していました。OpenAIのサム・アルトマン氏やイーロン・マスク氏、Google DeepMindのデミス・ハサビス氏がこれに理解を示していただけに、ザッカーバーグ氏の反論は大きな波紋を呼んでいます。

自主規制で十分とするMetaの論理

ザッカーバーグ氏は、自社の具体例を挙げて反論を展開しました。Metaは9月8日に新しい自律型エージェント「Muse」を発表しています。専用の仮想環境とブラウザを使い、ユーザーの許可の範囲内でメール送信や旅行手配を行うツールです。

同氏によると、Metaは安全性を高めるためにMuseのリリースを数か月間遅らせたといいます。その際、他社にも同じように遅らせるよう求めることはしませんでした。

ユーザーが求めているのは指示通りに確実に動くエージェントであり、信頼性こそが競争力になると同氏は指摘します。安全対策を軽視した企業は製品の質が落ちて自然に淘汰されるため、各社にはすでに安全に取り組む十分な動機があるという考えです。

さらに同氏は、AIが自身を自動改良し続ける「再帰的自己改善」の競争を批判しました。計算資源の大部分を人間へのサービス提供に振り向けることこそが、最も安全なアプローチだと主張しています。

浮き彫りになる業界の「囚人のジレンマ」

AIの減速を巡るスタンスは、主要プレイヤーの間で真っ二つに割れています。

協調を支持する側でも思惑は一様ではありません。アルトマン氏は開発の継続と両立する形でのペース調整を支持し、アモデイ氏は外部評価者に社員並みの内部アクセス権を与え、都合の悪い結果も公開できるようにすべきだと訴えています。

一方で、減速に否定的な勢力も強力です。ザッカーバーグ氏に加え、NVIDIAのジェンスン・フアンCEOは開発速度と安全性は両立できると主張しています。ドナルド・トランプ氏もAIやデータセンターの発展を阻む動きに反対しており、中国外務省も減速提案に反対の姿勢を示しています。

これは典型的な囚人のジレンマといえます。他社や他国が開発を続ける中で自分たちだけが立ち止まれば、優位性を失うリスクを負うからです。アモデイ氏自身も、民主主義国の協調は中国に対する技術的優位を保つことが前提だと述べています。

なぜ重要か

ザッカーバーグ氏が明確にノーを突きつけたことで、業界全体が一斉にブレーキを踏むというシナリオはほぼ消滅したとみられます。

一般ユーザーや導入を検討する企業にとって、注目すべきは抽象的な理念ではなく手元の管理機能です。Museのような自律型エージェントを扱う際は、どの操作に承認が必要か、権限をどう剥奪できるか、想定外の挙動のログが残るかといった実装面の確認が欠かせません。

業界全体への影響としては、MetaやNVIDIAがアクセルを踏み続ける以上、他社も競争から脱落しないために加速を続けざるを得ない構図が固まりました。

私たちは、ザッカーバーグ氏の主張を非常に現実的だと捉えています。安全性を崇高な合意ではなく「製品の品質」や「法的責任」として捉え、市場原理に委ねるアプローチは明快です。しかし一方で、競争が極限まで激化した際に自主的な自制が本当に機能するのかという懸念は残ります。外部監査の基準づくりなど部分的な合意はあり得ても、業界全体の開発停止は期待できそうにありません。