EU、生成AIの規制強化へ：開発の透明性義務付け、最大6％の制裁金も

ChatGPT や Stable Diffusion など、2022 年に爆発的な広がりを見せた生成 AI ツールに対し、欧州連合（EU）が本格的な規制のメスを入れようとしています。

これまで大手テック企業は、モデルの学習データや詳細な構造を企業秘密として徹底的に秘匿してきました。しかし EU が策定を進める「AI 法（AI Act）」の最新案では、こうした大規模モデルに透明性と説明責任を義務付ける方向で調整が進んでいます。

ブラックボックスの開示義務と世界売上高 6% の制裁金

EU の分類では、文章や画像を幅広く生成できるモデルは「汎用 AI システム」と呼ばれます。カスタマーサービスの自動化から偽情報の拡散、創作活動から同意のない性的ディープフェイクの作成まで、多岐にわたる用途に転用可能だからです。

法案交渉を担当する欧州議会のドラゴシュ・トゥドラケ議員は、OpenAI や Google、DeepMind といった開発元に対し、モデルがどのように構築され学習されたのかについて、より多くの情報公開を求める方針を示唆しました。

同法案は今年の後半に成立する見通しです。施行後、EU 域内で AI 製品を展開する企業が基準を満たさない場合、全世界の年間売上高の最大 6% という極めて重い制裁金が科される可能性があります。また、米国でも連邦取引委員会（FTC）などが独自のルール作りを検討し始めています。

二つの異なるリスクと対策の難しさ

生成 AI の規制には特有の難しさがあります。ブルッキングス研究所の研究員アレックス・エングラー氏によると、直面する課題は性質の異なる二つの領域に分かれます。

一つは、ヘイトスピーチや同意のないポルノといった有害コンテンツの拡散です。もう一つは、採用選考や法的文書の確認といった企業の意思決定プロセスに AI を組み込んだ際に生じるバイアスや差別です。

モデルの仕様公開は、その基盤上でアプリを開発する第三者にとってバイアスを把握する助けになります。一方で有害コンテンツの拡散を防ぐには、開発元が生成制限を組み込み、出力を監視し、悪質なユーザーのアカウントを停止するといった直接的な防壁が不可欠だとエングラー氏は指摘します。

なぜ重要か

安全策や責任を後回しにして最新モデルを野に放つ時代は、いよいよ終わりを迎えつつあると私たちは見ています。

基盤モデルを利用してプロダクトを作る開発者にとって、トレーニング内容や仕様の透明化は大きなメリットです。中身がわからないブラックボックス API に依存するリスクを減らし、著作権侵害や偏見の連座リスクを事前に対策できるようになるからです。

一方で懸念されるのは、過度な規制が欧州市場におけるイノベーションの障壁になる可能性です。コンプライアンス対応の負担が重すぎれば、大手企業が欧州での新機能提供を遅らせる恐れがあるほか、法務リソースを持たないオープンソースコミュニティや小規模スタートアップが淘汰され、結果的に既存の巨大資本が有利になる側面も否めません。

AI 開発が倫理ガイドラインという「努力目標」から、違反即罰則の「法的レッドライン」へと移行する最初の試金石となります。