バイデン氏の偽音声電話で投票妨害か、AIディープフェイクの可能性

選挙直前に電話を取ると、大統領本人の声で「火曜日は投票に行かないでほしい」と語りかけてくる。そんな事態が米国で現実になりました。

米ニューハンプシャー州の民主党予備選挙を前に、ジョー・バイデン大統領の声を模した自動音声電話（ロボコール）が有権者へ発信されていたことが判明しました。州司法長官事務所は有権者の投票を妨害する違法な試みとみて調査を開始。専門家らはAIによるディープフェイク音声である可能性が極めて高いと指摘しています。

数分で作れる大統領の声

NBC Newsが入手した音源を聞くと、声自体はバイデン氏に酷似していますが、話し方のテンポが不自然に途切れる箇所があります。

ディープフェイク検知ソフトを手がけるReality Defenderのベン・コールマンCEOは、元データがないため100パーセントとは断言できないものの、AIによって改ざんされた可能性が極めて高いとコメントしました。またジャーマン・マーシャル財団のリンジー・ゴーマン氏も、録音の終盤にかけてロボットのような機械的な調子が現れており、これが偽造を見分ける典型的な兆候だと述べています。

最大の問題は、こうした音声を生成するハードルが底抜けに低くなっている点です。

現在ではスマホアプリやWebサービスを使えば、無料やわずかな費用で高精度な音声クローンを作成できます。政治家のようにネット上に音声が大量にある人物なら、わずかなサンプルを学習させるだけで、初心者でも数分で複製できてしまいます。

古い妨害手口にAIという武器

ロボコールを使った選挙妨害自体は、米国では目新しい手法ではありません。

投票日時や場所について虚偽の情報を流し、投票を諦めさせる工作は以前から存在していました。ニューヨーク大学法科大学院ブレナン司法センターのメケラ・パンディタラトネ氏は、音声生成AIによって従来の有権者抑制の手法が詐欺師にとって一段と魅力的で手軽なものになってしまったと警告しています。

技術が急速に進化する一方で、法整備の遅れは顕著です。

有権者の投票を妨害する行為は連邦法で禁じられているものの、AIを悪用したなりすましそのものを取り締まる明確な規制はほとんどありません。リチャード・ブルーメンソール上院議員は早急な法制化を訴えていますが、連邦選挙委員会（FEC）の担当者は、この技術に関する規則策定手続きを開始するかどうかすらまだ決定していないと認めています。

なぜ重要か

選挙戦における生成AIの悪用が、理論上の懸念から実際の破壊工作へと移行したことを示す象徴的な事例です。

一般ユーザーにとって、音声だけで真偽を見抜くのは極めて困難です。動画のディープフェイクであれば不自然な瞬きや視線の違和感を探す余地がありますが、音質が限られる電話口で、不意にかかってきた短い音声の真偽を冷静に判定できる人はほとんどいません。

業界と法規制の観点から見ても、追いついていない現状が浮き彫りになりました。FECがいまだに規則作りの着手すら迷っている間に、現場ではわずか数分と数ドルのコストで偽音声が作られ、有権者に直接ばら撒かれています。

このいたちごっこにおいて、防衛側はあまりに不利です。発信元の特定技術やプラットフォーム側の防御策、そして悪用に対する即座の厳罰化を固めない限り、今後のあらゆる選挙で同様のなりすましが日常化してしまう恐れがあると私たちは考えます。