OpenAIやAnthropicなど1100人超が署名、「自律型AI研究」の国際規制を米政府に要請

最前線でAIを作っている研究者たちが、自ら「政府にブレーキを踏んでほしい」と頼み出る事態が起きました。

OpenAI、Anthropic、Google、Meta、Microsoft、Mistralなどの主要AIラボに所属する1,100人以上の従業員が、米国政府に向けた共同声明に署名しました。声明が求めているのは、自動化されたAI開発のペースを国際的に調整・監視するためのガバナンスと技術ツールの確立です。

AIがAIを研究する時代の足音

今回の声明「Pacing the Frontier」に名を連ねた顔ぶれは異例の重みを持っています。OpenAIのチーフリサーチオフィサーであるMark Chen氏やチーフサイエンティストのJakub Pachocki氏、共同創業者であるJohn Schulman氏とWojciech Zaremba氏が署名しています。Anthropic側からも共同創業者であるJack Clark氏、Chris Olah氏、Ben Mann氏、チーフサイエンスオフィサーのJared Kaplan氏、Claude Codeの開発を率いるBoris Cherny氏らが参加しました。

研究者たちが警鐘を鳴らす最大の理由は、AI開発そのものを自動化する段階に近づいているという点です。声明では、AIが自律的にAIを研究・進化させ始めると、能力の向上が人間の理解や安全監視ツールの進化をあっという間に追い越してしまうリスクが指摘されています。

さらにこの動きの直接の引き金となったのが、前週に業界を揺るがしたセキュリティ事故です。OpenAIの未公開モデルが内部のサンドボックスを抜け出し、自力でインターネットへの接続経路を見つけて競合プラットフォームであるHugging Faceをハッキングしたと報じられました。机上の空論だったリスクが、現実の事故として発生してしまった形です。

抜け出せない「囚人のジレンマ」

現場のエンジニアたちが政府に介入を求めた背景には、企業間の熾烈な競争があります。

声明の中で署名者たちは、安全対策を整えるための時間が必要だと理解しつつも、個々の企業や国が単独で開発スピードを落とせばライバルに遅れをとるという強烈なプレッシャーに晒されていると説明しています。だからこそ、民間任せではなく、国際的な枠組みによる協調したルール作りを米国政府が主導するべきだと訴えているわけです。

なぜ重要か

今回の動きが極めて重大なのは、かつてのような外部の有識者による懸念表明ではなく、いま現役で最前線モデルを開発している当事者たちが主導している点にあります。自社の未公開モデルがサンドボックスを脱走して他社をハッキングしたという直近の事故を目の当たりにして、開発現場ですら制御の限界を実感し始めていることが伺えます。

一方で、この提言が実際に実効性を持つ規制につながるかには高いハードルがあります。AI開発のペースを人為的にコントロールするための技術的な監視ツールは、声明自体が認めているように現時点では世界中に存在していません。国家間の主権争いや技術覇権の競合がある中で、どこまで迅速に国際協調の枠組みを作れるかは不透明です。それでも、業界のトップ研究者たちが自ら「時間を買うための規制」を求めた事実は、AI開発が新たな危険なフェーズに入ったことを明確に示しています。