假拜登电话劝选民别投票:专家称极可能是 AI 深度伪造
NBC News 报道称,新罕布什尔州初选前一通冒充拜登总统、劝选民不要投票的自动电话极可能是 AI 伪造的 Deepfake。检测机构表示该音频大概率被操纵。如今克隆政客声音门槛极低,而针对此类 AI 选举误导的法律监管仍存空白。

如果大选投票日前夕,你接到现任总统亲自打来的电话,叫你周二千万别去投票,你会作何反应?
在新罕布什尔州,大批选民就遇到了这桩离奇事。电话那头传来了拜登标志性的声音,劝民主党选民把票留到 11 月大选,周二的初选就别去凑热闹了。但事实是,白宫从没打过这个电话,那头甚至连真人都没有。
新罕布什尔州总检察长办公室迅速通报,这显然是一起针对初选选民的非法压制企图。根据反虚假信息专家和技术机构的排查,这段录音几乎可以肯定是用 AI 捏造的深度伪造。
几分钟就能克隆出总统的声音
最早拿到这段录音的 NBC News 发现,电话里的声音听起来确实很像拜登,但说话的节奏略显仓促和生硬。
深度伪造检测机构 Reality Defender 首席执行官 Ben Colman 直言,虽然没有拿到最初的源音频,但所有迹象都指向这是一段 AI 操纵的假音频。
德国马歇尔基金会的 Lindsay Gorman 分析,录音在结尾处的节奏很不自然,带着明显的机械感。在图像造假里大家习惯看眼睛眨得对不对,但在音频世界里,辨别真伪正在变成一场越来越难打的猫鼠游戏。
最让人倒吸一口凉气的不是假,而是制作的门槛低到了尘埃里。现在的克隆软件在手机应用商店或网页上随处可见,大部分甚至免费或者只要几美元。骗子根本不需要高超的算力,只要抓取政客几段公开演讲的切片,几分钟内就能捏出一个八九成像的语音模型。
老骗局穿上了 AI 的新马甲
用自动语音电话搞选民压制,在美国政治里算不上什么新鲜事。以前就经常有人在大选当天打电话发假地址、报假时间,忽悠对手的选民错过投票。
纽约大学法学院布伦南司法中心的 Mekela Panditharatne 指出,电话诈骗压制选票是老套路,但生成式 AI 让这种作恶手段的吸引力瞬间放大了几十倍。以前找个配音演员很容易露馅,现在用 AI 仿冒权威人物,成本低到近乎为零,逼真度却能骗过不少匆忙接电话的普通人。
问题是,技术在狂奔,规则却在原地踏步。
虽然美国联邦法律明文禁止恶意阻碍选民投票,但在针对 AI 欺诈的专门立法上几乎一片空白。参议员 Richard Blumenthal 表示,哪怕是一个完全不懂技术的新手,也能在几分钟内掌握这种工具。尽管多方都在施压联邦选举委员会,但该委员会发言人称,目前甚至还没决定是否要就这项技术的监管启动立项流程。
为什么重要
这起事件最危险的信号,在于生成式 AI 武器化不再是实验室里的推演,而是真正落到了选战实操中。
对普通人来说,防御成本正在呈指数级上升。平时我们看视频还能找找光影破绽,但日常生活中接起一个只有十几秒的座机或手机电话,大部分人根本没有专业设备的鉴伪能力,极容易在毫无防备下被误导。
从行业和监管角度看,我们认为这暴露出治理节奏的严重脱节。自动化语音拨号本身就属于监管灰区,叠加了零门槛的语音克隆后,直接变成了杀伤力极强的定向定点扰乱工具。
而联邦选举委员会等官方机构至今仍在规则制定的门槛前观望,这种迟缓看起来不仅挡不住造假者,还会反向助长侥幸心理。如果不尽快在源头追溯、平台拦截以及法律惩戒上筑起底线,接下来任何一场选举,恐怕都要陷入辨别谁是真人的泥潭中。
来源 (1)
- nbcnews.com(在新标签页打开)原文nbcnews.com