OpenAI、米大統領選の対策データを公表　候補者の画像生成を25万件超拒否

2024年の米大統領選を前に、生成AIによるディープフェイクや偽情報が選挙戦を混乱させるのではないかという懸念が世界中で広がっていました。

投票が一段落した11月8日、OpenAIはその舞台裏でどれだけの防御措置が機能していたのかを示すデータを公表しました。

同社のセーフガードは、想像以上に激しい負荷に晒されていたようです。

候補者の画像生成を25万件阻止、300万件を報道機関へ誘導

特に目を引くのが画像生成モデル「DALL·E」の数字です。

投票日直前の1カ月間で、ChatGPTはドナルド・トランプ次期大統領、カマラ・ハリス副大統領、JD・ヴァンス次期副大統領、ジョー・バイデン大統領、ティム・ウォルズ知事といった実在する政治家の画像生成リクエストを25万件以上拒絶しました。

また、ユーザーからどちらの候補を支持すべきか直接尋ねられた場合でも、特定の政治的立場を表明したり候補者を推薦したりしないよう制御されていました。

一方、選挙手続きや開票速報に関する質問に対して、OpenAIは「自前で答えない」という方針を徹底しました。

投票前の1カ月間で、投票所や投票方法を尋ねる約100万件の質問に対し、全米州務長官協会と連携して公的サイト「CanIVote.org」を案内しました。

さらに投票日当日とその翌日には、開票結果を尋ねる約200万件の回答で、AP通信やロイターなどの一次報道を確認するよう促すメッセージを表示しました。

組織的な情報操作の拡散は確認されず

個人の悪ふざけだけでなく、国家や組織が関与する情報工作への監視も強化されていました。

OpenAIは今年5月以降、同社モデルを悪用した世論工作の阻止状況を定期的にレポートとして公開してきました。

投票日に向けて監視を続けた結果、同社のツールを使った選挙干渉キャンペーンがソーシャルメディア上で拡散したり、継続的な読者を獲得したりした証拠は見当たらなかったとしています。

同社は政治利用に関するポリシーを厳格化し、選挙活動やロビー活動目的のアプリ開発、政治家になりすますチャットボットの作成を全面禁止していました。

なぜ重要か

今回のデータは、超大規模AIサービスが国家的な大イベントにどう向き合うべきかを示す実例となりました。

一般ユーザーから見れば、政治家の画像が作れず開票速報も教えてくれない仕様は、一見すると不便に映ります。しかし、この制約こそがプラットフォームの安全を守る盾でした。

300万件ものクエリを既存の公的機関や通信社にパスした判断は、非常に現実的で賢明だったと言えます。AIが勝手に当確予測を誤答すれば、壊滅的な信用失墜と厳しい規制を招くことは目に見えていたからです。

とはいえ、これで安心とは言えません。OpenAIがクラウド側でどんなに鉄壁の防御を固めても、それはChatGPTという閉じた庭の中の話に過ぎないからです。

悪意ある攻撃者は、規制の及ばないオープンウェイトの画像・音声生成モデルへと活動拠点を移しており、今後の偽情報対策はより見えにくい場所での戦いになっていくと考えられます。