収監中のパキスタン元首相、AI音声クローンで獄中から選挙運動

投獄されても、声を奪うことはできなくなりました。

パキスタンの元首相イムラン・カーン氏は、国の贈答品を不法に売却したとして8月から刑務所に収監されています。しかし、彼が率いる政党は選挙活動を止める気はありませんでした。

獄中からのメモをElevenLabsで音声化

カーン氏が率いるパキスタン正義運動（PTI）は、日曜日の夜に開催した「バーチャル集会」で、AIによる音声クローンを使った4分間の演説動画を公開しました。

制作プロセスは非常に具体的です。ガーディアン紙の報道によると、カーン氏は刑務所から手書きの略記メモをPTIに送付。それを弁護団が同氏特有の弁舌スタイルに合うよう手直ししました。

その原稿を、AI音声生成企業ElevenLabsの音声合成ツールに読み込ませて音声を生成しました。過去の集会アーカイブ音声を使って声を再現し、過去の映像やストック画像を組み合わせて動画を仕上げています。

動画内には「カーン氏のメモに基づくAI音声」という明確な字幕も付けられました。PTIのソーシャルメディア責任者ジブラン・イリヤス氏は、直接集会に出られない以上、弾圧を乗り越えるための自然な選択だったと述べています。

5時間のオンライン集会と全土でのネット遮断

この5時間に及ぶバーチャル集会は大きな反響を呼びました。YouTubeでの視聴回数は50万回を超え、他のSNSでも数千人が視聴しました。

しかし、これに対抗してパキスタン政府は日曜日の夜、Facebook、Instagram、X、YouTubeへのアクセスを遮断しました。

ネット監視機関NetBlocksもXで、日曜夜にパキスタン全土でこれら主要ソーシャルプラットフォームに大規模な接続障害が発生したことを確認しています。

なぜ重要か

今回の試みは、市販の生成AIツールが政治的弾圧を回避する実践的な手段になり得ることを示しました。

PTIが取った手法は極めて実用的で賢明です。ElevenLabsという誰でも使える商用ツールを用い、アーカイブ音声とメモを組み合わせるだけで、物理的に隔離されたリーダーの声を何十万人もの支持者に届けてみせました。多額の予算や高度な開発リソースがない陣営でも、同等のキャンペーンを展開できる前例を作ったと言えます。

また、画面上にAI音声である旨を明記した点も重要です。ディープフェイクによる世論誘導という批判を避け、透明性を担保したことで、支持者からの支持をより強固なものにしました。

一方で、深刻な懸念も残ります。今回は本人のメモに基づいていたとされていますが、物理的に拘束された人物の発言が「本当に本人の意志によるものか」を第三者が検証するのは極めて困難です。今後、対立陣営による偽の声明や、本人の意図と異なる捏造メッセージが同様の手法で流された場合、有権者が真偽を見極める手立てはほとんどありません。AIによる政治利用が、新たな情報戦のフェーズに入ったことを物語っています。