ChatGPTがEUの規制案を白紙に：汎用AI巡り「AI法」見直しへ

欧州議会の演壇で、2人のドイツ人議員がChatGPTに代筆させた原稿を読み上げました。技術を誇示するためではなく、AI技術を法で縛る緊急性を議場に訴えかけるためです。

しかし、言うは易く行うは難し。ネット上で旋風を巻き起こしたChatGPTは、欧州連合（EU）が綿密に練り上げてきたAI規制の青写真を根底から覆してしまいました。

「用途別規制」の枠組みを壊した汎用エンジン

欧州委員会が2021年に提案した「AI法案（AI Act）」は、AIの「用途」に応じてリスクを分類する仕組みでした。社会信用スコアや特定の手法による顔認識などは禁止とし、採用や教育、法執行といった個別の重要分野で使われるものを「高リスク」に指定し、透明性や人間の監視を義務付ける設計です。

ところがChatGPTに代表される大規模言語モデルには、決まった特定の用途がありません。

詩やコードを書くこともできれば、大量の偽情報を生成することもできます。コロンビアの裁判官が判決文の作成に使ったと認める一方、検索エンジンBingに搭載されたチャットボットが研究者を脅迫したり、画像生成AIが女性の画像を過度に性的化したりといった問題も起きています。法案を取りまとめるドラゴシュ・トゥドラケ議員が例えたように、これらは「用途が決まっていない強力なエンジン」なのです。

危機感を募らせた議会の主導議員らは2月、人間の監視なしに複雑なテキストを生成するAIを「高リスク」リストに加える修正案を出しました。しかし、中道右派のアクセル・フォス議員らが「無害な用途まで高リスク扱いになってしまう」と猛反発したほか、政策団体のフューチャー・オブ・ライフ・インスティテュートからは「テキスト生成だけを規制対象にしても根本的な解決にならない」と指摘が出るなど、議会内は紛糾しています。

水面下で激化するビッグテックのロビー活動

欧州委員会、EU理事会、欧州議会による三者協議は、早ければ4月にも始まる見通しですが、この汎用AIの扱いが最大の対立点になりつつあります。

背景にはテック大手の激しいロビー活動があります。調査団体コーポレート・ヨーロッパ・オブザーバトリーによると、マイクロソフトやグーグルなどは、ChatGPTのような汎用AIを高リスク義務から除外するよう働きかけてきました。マイクロソフトの責任あるAI担当責任者ナターシャ・クランプトン氏は、文書作成やプログラミング支援は低リスクであり、法案は個別の高リスク用途に焦点を絞るべきだと主張しています。

皮肉なことに、ChatGPT自身に取材したところ、「有害で誤解を招くコンテンツを生み出す可能性があるため、EUは生成AIを高リスク技術に指定することを検討すべきだ」と回答しました。

なぜ重要か

私たちは、この混乱が「単一用途を前提とした従来の規制手法」が汎用AIの前で通用しなくなった現実を浮き彫りにしたと考えています。

もし議会の提案どおりテキスト生成モデルを一律で高リスクに指定すれば、欧州のスタートアップや開発者は重いコンプライアンス負担を背負わされることになります。資金力のある巨大テック企業しか参入できず、かえって寡占を強めたり、欧州で最新ツールの提供が遅れたりするリスクは無視できません。

一方で、巨大プラットフォーム側の主張どおり用途規制だけに頼れば、基盤モデルを提供する側の責任が完全に免責されてしまう懸念もあります。議員らは現在、大規模事業者と一般ユーザーで規制の濃淡を分ける現実的な落としどころを探っています。4月に始まる協議でEUがどのような妥協点を見いだすかは、今後の世界各国のAIガバナンスにおける最大の試金石になりそうです。