巴基斯坦前总理伊姆兰·汗狱中竞选:用 ElevenLabs 克隆声音线上拉票
周日晚,巴基斯坦前总理伊姆兰·汗的政党发布了一段 4 分钟的竞选视频,利用 ElevenLabs 的 AI 声音克隆技术复刻其声音,为身在狱中的他举行线上集会。音频基于其亲笔笔记,集会吸引超 50 万人观看,巴基斯坦当局随后封锁了主要社交平台。

人被关在牢里,话却通过扬声器传遍了整个国家。
巴基斯坦前总理伊姆兰·汗因为被指控非法出售国家礼品,从 8 月起就一直待在监狱里。但他所在的政党正义运动党(PTI)想出了一个新招:用 AI 克隆他的声音,在网络集会上替他发表演讲。
狱中寄出速记稿,ElevenLabs 负责开口
这套操作并不算复杂,但执行得很巧妙。据《卫报》报道,伊姆兰·汗先在狱中写好了一份速记草稿,想办法递交给了正义运动党。
随后,政党的法律团队对这份草稿进行了润色,修改了词句,好让行文语气完全契合他平时的演讲风格。
接下来登场的是 AI 语音初创公司 ElevenLabs 的合成引擎。技术人员用汗过去公开演讲的音频做素材克隆了他的声音,再把润色后的文本转成音频。
最终放出来的视频长达 4 分钟。画面是由他过去的集会录像和库存图片剪辑而成的,画面下方还专门打上了一行提示:基于伊姆兰·汗笔记生成的 AI 声音。
正义运动党的社交媒体负责人吉布兰·伊利亚斯表示,既然汗无法亲自到场,这么做就是顺理成章的选择,目的就是突破限制。
五小时线上集会,引来全国断网
这场长达 5 小时的虚拟集会反响相当热烈。支持者在社交网络上反响积极,单是 YouTube 上的播放量就突破了 50 万次,其他社交平台上也有成千上万人在同时观看。
但这场 AI 演讲也迅速引发了反制。为了阻止公众观看虚拟集会,巴基斯坦政府在周日晚间直接封锁了对 Facebook、Instagram、X 和 YouTube 的访问。
网络监测机构 NetBlocks 也在 X 上确认,周日晚间巴基斯坦全国范围内确实出现了主流社交媒体服务大面积中断的情况。
为什么重要
我们认为,正义运动党这次的做法非常聪明,但也给未来的政治竞选拉开了一个复杂甚至危险的口子。
从技术和成本的角度看,门槛已经低到了不可思议的程度。团队甚至不需要昂贵的技术外包,靠市面上公开的消费级 AI 工具 ElevenLabs,加上老素材和几行文稿,就能把一个被完全切断公众接触的政治领袖重新送回舆论中心。对于身处弱势或遭到限制的政治团体来说,这几乎是一套极具诱惑力、性价比极高的低成本自救模板。
更值得称赞的一点是他们的坦诚。视频底部打上了醒目的声明,明确告知观众这是根据本人笔记生成的合成音频。这种主动透明的做法,在舆论上避开了制造虚假信息的指责,反而帮他们赢得了公众的同情与支持。
但隐患同样摆在眼前。虽然这次是经过团队和法律人员核实的代理发声,但先例一旦打开,后续的分辨成本就会飙升。如果下一次某个身陷囹圄的领导人被发出了完全伪造的声明,外界很难第一时间验证笔记是否出自本人之手。对整个行业和监管层来说,AI 声音克隆不再只是防范电信诈骗的技术题,它已经切实变成了左右现实政治博弈的实战工具。
来源 (1)
- theverge.com(在新标签页打开)原文theverge.com
话题追踪ElevenLabs 政治语音克隆防护措施
- ElevenLabs 迎战 2024 大选:设「禁声名单」拦截美英政客声音克隆
- 巴基斯坦前总理伊姆兰·汗狱中竞选:用 ElevenLabs 克隆声音线上拉票本条