米Anthropic、カリフォルニア州AI規制法案「SB 1047」は利点がコストを上回ると評価

カリフォルニア州のAI規制法案をめぐり米ハイテク大手が反発を強めるなか、Anthropicが従来の姿勢を軟化させました。

AnthropicのCEOであるDario Amodei氏は8月21日、ギャビン・ニューサム州知事に宛てた書簡の中で、修正されたSB 1047法案について、もたらされる利益がコストを上回る可能性が高いとの見解を示しました。ただし同氏は確証があるわけではなく、依然として懸念や曖昧な点も残されていると留保を付けています。

反対一色の業界で唯一の歩み寄り

スコット・ウィーナー州上院議員が主導するSB 1047は、開発に1億ドル以上を要したモデルや特定の計算量を超える最先端AIを対象とする法案です。対象企業には安全試験の実施や、暴走時に停止できるいわゆるキルスイッチの確保が義務付けられ、違反した場合は州司法長官による提訴の対象となります。

大手ハイテク企業はこの動きに強く反対してきました。Metaは知事らに書簡を送り、同法案がカリフォルニア州をAI開発に適さない環境にすると主張。Googleも懸念を表明し、OpenAIはAI規制は連邦政府主導で行うべきであり、州ごとの独自規制は法的不確実性を生んで進歩を遅らせると反発していました。

一方、Anthropicは修正を条件とした支持を以前から表明しており、議会の歳出委員会を通過した修正案には同社の提案が反映されました。物議を醸していた政府のAI監視委員会の新設条項が見送られたことも、軟化の背景にあります。

焦点は1〜3年以内の破滅的リスク

書簡の中でAmodei氏は、生物防衛やサイバーセキュリティの専門家との協業を通じ、今後1〜3年という短期間で深刻な悪用が現実味を帯びる可能性があると指摘しました。巨額の開発費を投じたフロンティアモデルに対象を絞ることで、スタートアップや中小規模の開発者が過度な負担を免れる点も評価しています。

主なメリットとして、安全・セキュリティ規程の策定義務化と公表の透明性確保、下流の被害に対する責任基準の明確化、そして単なる性能競争ではなくリスク低減科学への投資を促す仕組みが挙げられました。一方でAmodei氏は、政府の過剰な介入を避け、対象を破滅的リスクに絞り込むべきだと釘を刺しています。

なぜ重要か

業界の主要プレイヤーが軒並み反対するなかでAnthropicが歩み寄ったことは、AI規制をめぐる勢力図に大きな変化をもたらします。

一般の開発者やスタートアップにとって、1億ドル超という適用基準はひとまず安心材料となります。当面の義務が課されるのはごく一部のフロンティアモデル開発企業に限られるため、アプリ開発やオープンモデル利用が即座に規制されるリスクは抑えられています。

企業戦略の視点で見ると、Anthropicの判断は非常に巧みです。安全性を最大の売りにし、すでに巨額の安全対策コストを投じている同社にとって、それを業界標準の法制化へと引き上げることは、MetaやOpenAIといった競合に対しても同じコスト負担を強いることにつながります。

ただし、懸念されるのは規制の地域的な分断です。全米統一の連邦法がないまま州ごとに独自の法的責任が設定されれば、企業のコンプライアンス負荷は複雑化し、最先端モデルの開発拠点自体が他州へ流出する引き金にもなりかねません。