跳到正文
IFAI

AIGC

巴基斯坦前總理伊姆蘭·汗獄中競選:用 ElevenLabs 克隆聲音線上拉票

首次發布 傳播指數 41

週日晚,巴基斯坦前總理伊姆蘭·汗的政黨釋出了一段 4 分鐘的競選影片,利用 ElevenLabs 的 AI 聲音克隆技術復刻其聲音,為身在獄中的他舉行線上集會。音訊基於其親筆筆記,集會吸引超 50 萬人觀看,巴基斯坦當局隨後封鎖了主要社交平臺。

巴基斯坦前總理伊姆蘭·汗獄中競選:用 ElevenLabs 克隆聲音線上拉票
圖:theverge.com

人被關在牢裡,話卻通過揚聲器傳遍了整個國家。

巴基斯坦前總理伊姆蘭·汗因為被指控非法出售國家禮品,從 8 月起就一直待在監獄裡。但他所在的政黨正義運動黨(PTI)想出了一個新招:用 AI 克隆他的聲音,在網路集會上替他發表演講。

獄中寄出速記稿,ElevenLabs 負責開口

這套操作並不算複雜,但執行得很巧妙。據《衛報》報道,伊姆蘭·汗先在獄中寫好了一份速記草稿,想辦法遞交給了正義運動黨。

隨後,政黨的法律團隊對這份草稿進行了潤色,修改了詞句,好讓行文語氣完全契合他平時的演講風格。

接下來登場的是 AI 語音初創公司 ElevenLabs 的合成引擎。技術人員用汗過去公開演講的音訊做素材克隆了他的聲音,再把潤色後的文本轉成音訊。

最終放出來的影片長達 4 分鐘。畫面是由他過去的集會錄影和庫存圖片剪輯而成的,畫面下方還專門打上了一行提示:基於伊姆蘭·汗筆記生成的 AI 聲音。

正義運動黨的社交媒體負責人吉布蘭·伊利亞斯表示,既然汗無法親自到場,這麼做就是順理成章的選擇,目的就是突破限制。

五小時線上集會,引來全國斷網

這場長達 5 小時的虛擬集會反響相當熱烈。支持者在社交網路上反響積極,單是 YouTube 上的播放量就突破了 50 萬次,其他社交平臺上也有成千上萬人在同時觀看。

但這場 AI 演講也迅速引發了反制。為了阻止公眾觀看虛擬集會,巴基斯坦政府在週日晚間直接封鎖了對 Facebook、Instagram、X 和 YouTube 的訪問。

網路監測機構 NetBlocks 也在 X 上確認,週日晚間巴基斯坦全國範圍內確實出現了主流社交媒體服務大面積中斷的情況。

為什麼重要

我們認為,正義運動黨這次的做法非常聰明,但也給未來的政治競選拉開了一個複雜甚至危險的口子。

從技術和成本的角度看,門檻已經低到了不可思議的程度。團隊甚至不需要昂貴的技術外包,靠市面上公開的消費級 AI 工具 ElevenLabs,加上老素材和幾行文稿,就能把一個被完全切斷公眾接觸的政治領袖重新送回輿論中心。對於身處弱勢或遭到限制的政治團體來說,這幾乎是一套極具誘惑力、價效比極高的低成本自救模板。

更值得稱讚的一點是他們的坦誠。影片底部打上了醒目的宣告,明確告知觀眾這是根據本人筆記生成的合成音訊。這種主動透明的做法,在輿論上避開了製造虛假資訊的指責,反而幫他們贏得了公眾的同情與支援。

但隱患同樣擺在眼前。雖然這次是經過團隊和法律人員核實的代理發聲,但先例一旦開啟,後續的分辨成本就會飆升。如果下一次某個身陷囹圄的領導人被髮出了完全偽造的宣告,外界很難第一時間驗證筆記是否出自本人之手。對整個行業和監管層來說,AI 聲音克隆不再只是防範電信詐騙的技術題,它已經切實變成了左右現實政治博弈的實戰工具。

來源 (1)

  1. [1]
    theverge.com(在新分頁開啟)原文theverge.com

話題追蹤ElevenLabs 政治語音克隆防護措施

這個話題的歷次新聞,最新的在上面。

  1. ElevenLabs 迎戰 2024 大選:設「禁聲名單」攔截美英政客聲音克隆
  2. 巴基斯坦前總理伊姆蘭·汗獄中競選:用 ElevenLabs 克隆聲音線上拉票本則

每日 AI 內容精選