Anthropic、AI開発の世界的一時停止を提唱：2年以内の自己改善リスクを警告

レースの先頭を走る企業が、突然立ち止まって周囲に一時停止を呼びかけました。

Anthropic は公式ブログを公開し、世界の主要な AI 研究所に対してフロンティアモデルの開発を一時停止、あるいは減速させる協調合意を結ぶよう求めました。執筆した社内研究責任者の Marina Favaro 氏と政策責任者の Jack Clark 氏は、AI が人間の監視なしに自らコードを書き換えて性能を高める「再帰的自己改善」の段階に近づいていると警告しています。

2年以内に自己進化を始めるリスク

Jack Clark 氏は、早ければ今後2年以内に自律的に自己改善できるモデルが登場する可能性があると指摘しています。現時点でこの現象が確認されたわけではなく不可避でもないと前置きしつつも、社会構造や安全性研究が追いつくための猶予が必要だと訴えました。

同社は冷戦期の核兵器不拡散条約のような枠組みを提案していますが、ミサイル基地と違って分散型データセンターや秘密裏の学習を監視するのは極めて困難です。中国をはじめとする主要国を巻き込んだ検証システムが成立しない限り、先に手を止めた陣営が遅れを取るだけになりかねません。

安全性への危機感か、上場前の周到な PR か

この警告のタイミングには業界から冷ややかな視線も注がれています。Anthropic は直近で 650 億ドルを調達して企業価値を約 1 兆ドルに引き上げ、今週 SEC に上場申請書類を提出したばかりです。

Enderle Group の Rob Enderle 氏は、国家安全保障上の利害から開発の一時停止など現実的には不可能だと指摘しました。同氏はこのブログを戦略的なマーケティングだと分析し、再帰的自己改善の危機を語ることで自社技術が最も進んでいると投資家にアピールし、安全管理のために莫大な資金が必要だというストーリーを作っているとみています。

投資家の David Sacks 氏も以前から、同社が規制の虜を取り付け、低コストなオープンソースを締め出して自社アルゴリズムを守ろうとしていると批判してきました。Constellation Research の Holger Mueller 氏も、自己改善リスクは理論上に過ぎず、現在の計算資源の不足を考えれば現実味は薄いとし、開発凍結は同社の B2B での優位性を固定化させる狙いがあるのではないかと疑問を呈しています。

なぜ重要か

一般の開発者や企業ユーザーにとって、日々の Claude の利用環境が明日変わるわけではありません。しかし、もしこの減速論が政策として具体化すれば、最も大きな煽りを食らうのはオープンソースコミュニティや小規模な開発者です。

私たちは、Anthropic のこの動きは上場に向けたポジショニングとしては極めて巧妙である一方、重大な説得力の欠如を抱えていると考えます。自社モデルが自律進化の寸前にあると語ることは、技術的な優位性を強調する上でこれ以上ない宣伝文句になります。

しかし、OpenAI との覇権争いや米中間の技術競争が激化している最中に開発停止を訴えるのは、あまりに現実離れしています。巨額の企業価値を抱えて上場を控える企業が現状の凍結を求める姿は、客観的に見れば自社の先行者利益を守るための防壁作りに見えてしまいます。