AnthropicのCEO、オープンウェイト規制論を否定　焦点は半導体と安全性テストへ

シリコンバレーの主要テック企業がこぞって同じ公開書簡に署名するなか、そこに加わらなかった一社には当然ながら厳しい視線が注がれます。

先週末、Nvidia の CEO である Jensen Huang 氏が X に初投稿を行い、オープンウェイト AI モデルに対する過度な規制に反対する共同書簡を公開しました。署名には Microsoft、Meta、Hugging Face、Mistral のほか、後に OpenAI、Google、Amazon、SpaceX までが名を連ねました。主要ラボのなかで唯一 Anthropic が加わっていなかったことから、同社が自社ビジネスを守るために中国などのオープンモデル禁止を裏でロビー活動しているのではないかという批判が業界内で急速に高まりました。

これを受け、Anthropic の CEO である Dario Amodei 氏は 7 月 27 日に声明を発表し、Anthropic はオープンウェイトモデルの禁止を主張したことは一度もないと反論しました。

何が本当の脅威なのか

Amodei 氏は、危険な能力を持たないオープンウェイトモデルは公共財であり、実行に必要な計算リソース以外のコストがかからず、企業や開発者に大きな価値をもたらしていると明言しました。

そのうえで、単なる保護主義的な禁止令は安全保障上の真の危機を何も解決しないと指摘します。彼が最も警戒している悪夢のシナリオは二つあります。

一つ目は、中国をはじめとする権威主義体制が米国を超える AI モデルを構築し、軍事的な優位性や自国民への徹底した弾圧に利用することです。Amodei 氏によれば、最も危険なモデルは公に公開されるオープンモデルではなく、秘密裏に訓練されて軍や情報機関に直接渡されるモデルです。そのため、米企業によるオープンモデルの利用を禁止しても意味がありません。

二つ目は、強力なモデルがサイバー攻撃や生物兵器の製造に悪用されるリスクです。オープンモデルは一度ウェイトを公開すると回収できず、安全対策を講じるのが難しいためリスクが高いのは事実ですが、悪意のある攻撃者が正規の米企業であるはずもなく、利用規制は効果的な対策になりません。

禁止令の代わりに提案された 3 つの対抗策

Amodei 氏は、オープンモデルを一律に禁じるのではなく、実効性のある 3 つの政策に注力すべきだと主張しています。

第一に、中国への高性能チップや半導体製造装置の販売規制を徹底し、密輸や回避策を厳しく取り締まることです。物理的なハードウェアがなければ、スケーリング則の観点から米国を超えるモデルを開発することはできません。

第二に、組織的な大規模モデル蒸留の取り締まりです。蒸留を使えば、他社の高度なモデルに大量のプロンプトを投げて挙動を学習させることで、少ない計算資源で同等の能力を持つモデルを作ることができます。これで米国を完全に追い抜くことはできなくても、トップとの差を数か月程度まで縮めることが可能になってしまうため、法的な対抗措置が必要だと論じました。

第三に、十分な能力を持つすべてのモデルに対する義務的な事前安全性テストの導入です。オープンかクローズドか、どの国で作られたかを問わず、サイバー攻撃や生物兵器リスクの事前検証を必須化する一方、スタートアップや学術機関などの低リスクなモデルは完全に免除すべきだと提案しています。

なぜ重要か

私たちは、Amodei 氏の今回の弁明は非常に巧妙な一手だと考えます。業界全体から孤立しかけたタイミングで、オープンウェイトを公共財と認めて保護主義の疑いを退けつつ、自社の主張を冷静に再構成してみせました。

しかし、彼が打ち出した代替案は極めて現実的で手厳しいものです。特にモデル蒸留の取り締まりに焦点を当てた点は見逃せません。現在、多くのオープンモデルや中国系ラボは先行する商用モデルの出力を蒸留することで急速にキャッチアップしており、ここが法的に封じられればオープンコミュニティの開発エコシステムにも大きな影響が及びます。

一般の開発者や企業にとって、日常的なオープンウェイトモデルの利用が明日すぐに禁止される恐れは遠のいたと言えます。中小規模のモデルは事前テストの対象外とする方針も支持されています。

とはいえ、AI の安全保障をめぐる議論の焦点は、単なる公開形式の対立から、物理的な計算資源の遮断とデータ蒸留の規制へと確実に移行しています。最先端モデルを開発するための参入障壁は、今後さらに高くなっていくとみられます。