Anthropicが安全指針を緩和、「安全対策なき訓練停止」の誓約を撤回

AIの安全性を最大の売りに掲げてきたAnthropicが、ついにその看板方針を後退させました。

同社のチーフサイエンスオフィサーであるJared Kaplan氏は今週、米Time誌に対し、十分な安全対策が講じられない限りAIの訓練を行わないとした2023年の公約をもはや維持しないことを明らかにしました。今後は、自社の安全テスト結果を企業顧客に明示する方針へと切り替えます。

激化するAI市場で生き残るため、自らに課していた厳格な自主規制のブレーキを緩めた形です。

市場競争と国防総省からの板挟み

Kaplan氏によると、この方針転換は激しい市場競争の中で優位性を保つための現実的な判断です。Claudeの利用が急速に拡大する一方で、同社は厳しい外部環境に直面しています。

イリノイ大学シカゴ校のMichael Bennett氏が指摘するように、世界的に政府によるAI規制は事実上ほとんど機能していません。ライバル企業が規制の空白を突いて開発を加速させる中、Anthropicだけが立ち止まれば、安全性への配慮が薄い競合に主導権を奪われるリスクがあります。

さらに同社は米国防総省との間でも深刻な対立を抱えています。Anthropicが米国民に対する大規模監視や自律型兵器システムへの技術利用を拒否したことを受け、国防総省高官は同社がサプライチェーン上のリスクになり得ると言及しました。対立が長引けば、巨額の政府契約だけでなく、国防総省と取引のある民間パートナーとの関係まで失う危機に瀕しています。

米国ではバイデン政権期の連邦規制に向けた動きから一転し、トランプ大統領が12月に各州独自のAI法制定を阻止する大統領令を出すなど、制約のないイノベーションを後押しする風潮が強まっています。

顧客が求めるのは倫理より開発スピード

従来の枠組みである「責任あるスケーリング方針」（RSP）では、モデルの性能基準を設け、安全基準が満たされない場合は開発を一時停止する義務を課していました。

しかし、ForresterのアナリストであるJeff Pollard氏は、企業顧客の本音は安全性よりも開発効率にあると指摘します。多くの企業はClaude Codeを用いてより多くのコードを速く書くことを望んでおり、安全性の担保は魅力的な要素であっても必須条件ではなかったという見方です。

一方でMetaverse Lawの創業者Lily Li氏は、公約の後退は安全対策を重視する顧客層の信頼を損ない、長期的には収益を圧迫しかねないと懸念を示しています。

なぜ重要か

Anthropicの今回の決断は、AI業界における自主的な安全性規制の試みが、市場の冷徹な競争論理に屈した瞬間を示しています。

一般ユーザーや開発者にとっては、安全審査によるリリースの停滞が減り、最新のClaudeモデルや新機能がより迅速に手元へ届くメリットがあります。ただし、安全性を理由にAnthropicを選んでいた企業にとっては、「Anthropic製だから安全」というブランド保証が薄れ、開示されるテスト結果を自ら精査する負担が生じることになります。

業界全体から見れば、最も強硬に安全性を訴えていたプレイヤーが後退したことで、歯止めのない開発競争が加速することは避けられません。政府の締め付けとOpenAIなどのライバルの台頭を前に、生き残りを優先した判断自体は賢明と言えますが、これによってAnthropicは他社との最大の差別化要因であった道徳的優位性を手放すことになります。