EUのAI法、透明性ルールが施行：生成コンテンツの表示義務化、違反で最大1500万ユーロの罰金

SNSで流れてくる精巧な動画を見つめたり、問い合わせチャットで会話したりする際、相手が人間かAIか迷う場面が日常茶飯事になりつつあります。

欧州連合は8月2日、AI法に基づく新たな透明性義務の適用を開始しました。オンライン上でAIチャットボットやディープフェイクを簡単に見分けられるようにすることが今回の狙いです。

開発者と運用の双方に課される表示義務

今回の規則では、AIを開発して提供するプロバイダーと、それをサービスとして運用するデプロイヤーが明確に区別されています。MetaやSpaceXAIのような大手企業は、その両方に該当します。

プロバイダー側は、相手が人間ではなくAIであることをシステム上で明示する必要があります。ただし、それが誰の目にも明らかな場合は除外されます。さらに、生成または改変された音声、画像、動画、テキストには、機械で検出できるマークを埋め込まなければなりません。

一方のデプロイヤー側には、本物そっくりに作られたディープフェイクや改変コンテンツに対して、AI製であることを示すラベルを貼り付けることが義務づけられました。

欧州委員会は事業者の負担を減らすため、TikTokやInstagram、Facebookが導入しているような表示アイコンのサンプルも公開しました。このアイコン自体を使うかどうかは任意ですが、ラベル表示を行うこと自体は決して任意ではないと強調しています。

違反した企業には、最大1500万ユーロ（約1720万ドル）、または世界年間売上高の3パーセントという巨額の制裁金が科される可能性があります。8月2日以降の新システムは即時適用となり、それ以前に公開された既存システムには12月2日までの猶予期間が設けられています。

なぜ重要か

一般ユーザーにとっては、ネット上で遭遇する情報の真偽を確かめるための強力な盾になります。対話相手がアルゴリズムだと事前にわかれば、無駄な混乱や悪質な偽情報に騙されるリスクを大きく減らせます。

EU圏でサービスを展開するテック企業や開発者にとっては、フロントエンドの表示改修だけでなく、生成データへのメタデータ埋め込みなど、開発プロセスの根本的な見直しが急務となります。

欧州委員会のやり方は、倫理的な抽象論にとどまらず、現場で即座に機能するラベル表示に焦点を当てた点で非常に現実的だと評価できます。サンプルアイコンを用意した点も導入のハードルを下げる工夫と言えます。

ただ、何をもって「AIであると明らか」と見なすのかという線引きは依然として曖昧に見えます。また、規制を無視してローカル環境で動かされるオープンソースモデルまでこの網で捉えきれるのか、実効性には課題が残りそうです。