MetaやGoogleなど大手IT20社、選挙妨害を狙うAI偽情報対策で協定締結

先月、米ニューハンプシャー州の有権者のもとに、バイデン大統領の声を真似た自動音声電話がかかり、予備選への投票を控えるよう促す事態が起きました。AIによる音声クローンの脅威が一気に現実味を帯びた瞬間です。

2024年は世界で50カ国以上が国政選挙を迎えます。選挙戦が生成AIの悪用で混乱に陥るのを防ぐため、大手テック企業が一斉に動き出しました。

ドイツで開催されたミュンヘン安全保障会議において、Meta、Google、Microsoft、OpenAI、Amazon、Adobe、IBM、TikTokに加え、イーロン・マスク氏率いるXやStability AIなど計20社が、選挙における欺瞞的なAIディープフェイクに対抗する協定に署名しました。

検知とラベル付けを優先し、一律削除は避ける

署名した企業は、候補者や選挙管理関係者を装ったり、投票日時や場所について虚偽情報を流したりする偽コンテンツに対し、自主的な対策を講じることで合意しました。

具体的には、ディープフェイクを検知する技術の開発、AI生成物へのラベル付け、自社モデルのリスク評価、業界内での迅速な情報共有などを掲げています。

ただし、この協定はディープフェイクの一律禁止や完全な削除を義務付けてはいません。

教育やドキュメンタリー、風刺、正当な政治的表現を保護するため、文脈を考慮することが求められています。

Metaのグローバル広報責任者を務めるNick Clegg氏は、業界の誰もがもぐら叩きのようにすべてを隠そうとしても解決しないと理解していると述べ、企業ごとに異なるコンテンツ基準を尊重し、過度な制約を課さない現実的なアプローチだと説明しました。

拘束力のない自主協定への懸念

一方で、この合意には法的拘束力がないため、実効性を疑問視する声も上がっています。

米超党派政策センターのRachel Orey氏は、文言が予想ほど強くないと指摘し、自主規制である以上、企業が実際に約束を守るかどうか注視し続ける必要があると述べています。

欧州委員会のVera Jourova副委員長は協定の前進を評価しつつも、AIによる偽情報が民主主義を終わらせかねないと強い警戒感を示しました。

昨年11月のスロバキア選挙直前にも、候補者がビールの値上げや不正選挙を画策しているかのような偽音声がSNSで拡散し、ファクトチェックが追いつかない事態が発生しました。米議会による法規制の整備が遅れる中、プラットフォーム側の自主管理に依存せざるを得ないのが現状です。

なぜ重要か

有権者にとって、この協定が結ばれたからといって、タイムラインから偽情報が一掃されるわけではありません。各社が掲げる検知技術やラベル表示の多くは、まだ一般向けに本格展開されていないのが実情です。

今回の動きについて私たちは、規制当局からの厳しい法制化を先回りして回避するための、業界側の巧妙な自衛策だと見ています。削除ではなく検知とラベル付けにとどめることで、検閲批判や政治的バイアスへの追及を巧みに躱しています。

しかし、罰則のない自主協定には大きな脆弱性が伴います。XとMetaでは言論の自由に対する基準が大きく異なるため、投票直前に重大な偽情報が拡散した際、足並みを揃えて迅速に対応できるかは極めて不透明です。企業の善意に頼る自律的な枠組みが、史上最大の選挙イヤーにどこまで耐えられるかが問われています。