イーロン・マスク氏、AnthropicのCEOに賛同　AI開発の減速提唱に「ダリオの言う通り」

普段は激しい開発競争を繰り広げているAI大手のトップたちが、珍しく足並みを揃え始めました。

AnthropicのCEOであるDario Amodei氏は、安全対策が追いつくまでの間、フロンティアAIモデルの能力向上ペースを抑えるべきだとする論考を発表しました。これに対し、Elon Musk氏はXでその投稿を引用し、「Dario is right（ダリオの言う通りだ）」と賛同を示しました。

同調したのはマスク氏だけではありません。The Guardianによると、OpenAIのCEOであるSam Altman氏も外部の評価者を受け入れる方針を示し、Axiosの報道ではGoogle DeepMindを率いるDemis Hassabis氏も細部への留保をつけつつ大枠の方向に支持を表明しました。競合各社の首脳がここまで足並みを揃えるのは極めて異例です。

フロンティア研究所を怯えさせるもの

Amodei氏が警告しているのは、AIが自身より高度なAIの開発を支援し、進化が加速度的に進んでいるという現状です。同氏は、人間の意図に反する自律型エージェントの群れが現れた場合、6カ月から12カ月の間にインターネットを掌握してしまうシナリオがあり得ると指摘しています。

この危機感の背景には、外部に公開されていない社内モデルの急速な進化があります。OpenAIは9月8日の発表（9月10日更新）で、GPT-6 Astraを大幅に上回るとされる社内モデルが、ミレニアム懸賞問題であるナビエ・ストークス方程式の解法案を導き出したと明かしました。このタスクでは約1万のエージェントが同時に協調動作し、研究者がリソースを再配分しながら中間結果を統合したとされています。

数学的な検証はまだこれからですが、水面下の能力向上が関係者に強い緊張感を与えていることは確かです。AP通信によると、研究者のJacob Coxon氏は今後10年以内にAIが人類を滅亡させる確率を個人的に10%と見積もっています。もちろん、こうした破滅的シナリオの確率や時期について業界内で一致した見解があるわけではありません。

こうした事態を受け、Amodei氏は3段階の減速プランを提案しました。Anthropicはまず第1段階として、外部の独立評価機関に対し、自社システムへの常設かつ従業員レベルのアクセス権を単独で付与することを決定しました。訓練中のモデルのアライメントを監視し、安全対策の順守状況やインシデントを外部から検証できるようにする仕組みです。さらに同氏は、民主主義国の研究所間での共通安全基準の策定や、権威主義国の政府との協調も提唱しています。

自主規制を阻む2つの壁

しかし、ブレーキを踏むという試みには根強い反発も存在します。

オープンソース開発者の間では、大手が主導する規制への警戒が広がっています。The Guardianによると、Hugging FaceのClement Delangue氏は参加の機会と透明性の確保を訴えました。少数の大手研究所だけでルールを決めてしまえば、高度なAIを開発する権利が一部の巨大テック企業に独占されかねないという懸念です。

投資家のDavid Sacks氏もAxiosの取材に対し、研究所が自発的に減速を提唱するのは「規制の虜（Regulatory Capture）」を狙った動きではないかと批判しました。自分たちが関与して作った規制によって、後発の競合他社を締め出す防波堤を築こうとしているのではないかという指摘です。

さらに大きな壁となるのが地縁政治です。AP通信によると、トランプ氏は9月13日、AI競争において米国が中国をリードし続ける重要性を強調し、「AIを制する者がすべてを制する」と述べました。ガードレールの必要性自体は認めたものの、国家間の覇権争いが前提にある以上、一国の研究所だけが自発的に開発の手を緩めることは現実的に極めて困難です。

なぜ重要か

ライバル企業同士が減速の必要性で一致したという事実は、現在開発中の次世代モデルが、開発者自身すら畏怖する領域に達しつつあることを示唆しています。一般ユーザーが今日明日で直接的な変化を体感することはありませんが、AIエージェントの自律的な進化は、チャットUIの枠をはるかに超えて進んでいます。

Anthropicが外部監査人に社員レベルの常時アクセス権を与えるという取り組みは、従来の形骸化した倫理宣言に比べれば具体的で評価できる一歩です。しかし、法的拘束力のない紳士協定は、誰か1社が開発を加速させたり、国際的な安全保障の圧力が強まったりした瞬間に崩壊する脆さを抱えています。

私たちは、この「減速」の議論がオープンソース開発者やスタートアップの参入障壁になってはならないと考えます。複雑な監査プロセスや安全基準が義務化されれば、莫大なコンプライアンス費用を払える既存の巨大企業だけが生き残る構造が固定化されかねません。真の安全性確保と市場の独占防止をどう両立させるかが、今後の最大の論点になります。