カリフォルニア州の物議を醸すAI安全法案「SB 1047」が議会通過、知事の署名待ちに

カリフォルニア州で議論が続いていた人工知能規制が、大きなヤマ場を迎えました。

先端AIモデルを開発する企業にセーフガードの設置を義務付ける法案「SB 1047」が州議会を通過し、現在は知事の署名を待つ段階に入っています。シリコンバレーを二分してきたこの法案を巡り、業界トップの意見が真っ向から対立しています。

マスク氏が賛意、OpenAIは真っ向から反対

SB 1047は、大規模モデルを開発する事業者に対し、重大な損害の発生を防ぐための安全策の策定と文書化を求める内容です。要するに、AIの暴走による被害責任を開発元に負わせる仕組みです。

イーロン・マスク氏はX上で、この法案をカリフォルニア州は可決すべきだとの考えを突如表明しました。難しい決断であり反発を招くだろうとしつつも、自身が20年以上にわたりAI規制を支持してきた立場を改めて主張しています。

マスク氏自身、カリフォルニア州からの企業移転を示唆しているものの、同氏が率いるxAIもこの規制の対象となります。一方で、競合するOpenAIはSB 1047に明確に反対の立場を表明しており、別の代替法案を支持する姿勢を見せています。

透かし義務化の「AB 3211」には大手が一転して賛同

大手テック企業は、あらゆる規制を拒んでいるわけではありません。OpenAI、Microsoft、Adobeの3社は、同じくカリフォルニア州で審議されている別法案「AB 3211」への支持を表明しました。

AB 3211は、AIが生成した画像や動画、音声のメタデータに透かしを埋め込むことを義務付けるものです。さらに、InstagramやXなどの大手プラットフォームに対し、一般ユーザーが一目で判別できる表示を行うよう求めています。

3社はコンテンツの出所を証明する標準化団体C2PAの主要メンバーです。今年4月には業界団体を通じて実現不可能で過度な負担と猛反発していましたが、法案の修正を受けて支持に転じました。

なぜ重要か

2つの法案に対する各社の態度の違いに、テック大手の本音が色濃く表れています。

AB 3211のような出力コンテンツへの透かし義務化は、既存技術であるC2PAを活用でき、モデルの開発競争そのものにはブレーキをかけません。これに対し、SB 1047はフロンティアモデル自体のリスク責任を問うため、開発ペースを落としかねず、OpenAIなどは断固阻止に動いています。

マスク氏のSB 1047支持については、長年の安全論者としての姿勢を誇示するだけでなく、先行するOpenAIに重いコンプライアンス負荷を課す戦略的思惑もあると見られます。

カリフォルニア州の規制は全米、ひいては世界のデファクトスタンダードになる傾向があります。知事が署名して成立した場合、大規模モデルのリリース前テストや監査が事実上義務化され、AI開発全体のスピード感やオープンソース戦略に大きな影響を与えることになりそうです。