跳到正文
IFAI

行业动态

假拜登电话劝选民别投票:专家称极可能是 AI 深度伪造

首次发布 传播指数 43

NBC News 报道称,新罕布什尔州初选前一通冒充拜登总统、劝选民不要投票的自动电话极可能是 AI 伪造的 Deepfake。检测机构表示该音频大概率被操纵。如今克隆政客声音门槛极低,而针对此类 AI 选举误导的法律监管仍存空白。

假拜登电话劝选民别投票:专家称极可能是 AI 深度伪造
图:nbcnews.com

如果大选投票日前夕,你接到现任总统亲自打来的电话,叫你周二千万别去投票,你会作何反应?

在新罕布什尔州,大批选民就遇到了这桩离奇事。电话那头传来了拜登标志性的声音,劝民主党选民把票留到 11 月大选,周二的初选就别去凑热闹了。但事实是,白宫从没打过这个电话,那头甚至连真人都没有。

新罕布什尔州总检察长办公室迅速通报,这显然是一起针对初选选民的非法压制企图。根据反虚假信息专家和技术机构的排查,这段录音几乎可以肯定是用 AI 捏造的深度伪造。

几分钟就能克隆出总统的声音

最早拿到这段录音的 NBC News 发现,电话里的声音听起来确实很像拜登,但说话的节奏略显仓促和生硬。

深度伪造检测机构 Reality Defender 首席执行官 Ben Colman 直言,虽然没有拿到最初的源音频,但所有迹象都指向这是一段 AI 操纵的假音频。

德国马歇尔基金会的 Lindsay Gorman 分析,录音在结尾处的节奏很不自然,带着明显的机械感。在图像造假里大家习惯看眼睛眨得对不对,但在音频世界里,辨别真伪正在变成一场越来越难打的猫鼠游戏。

最让人倒吸一口凉气的不是假,而是制作的门槛低到了尘埃里。现在的克隆软件在手机应用商店或网页上随处可见,大部分甚至免费或者只要几美元。骗子根本不需要高超的算力,只要抓取政客几段公开演讲的切片,几分钟内就能捏出一个八九成像的语音模型。

老骗局穿上了 AI 的新马甲

用自动语音电话搞选民压制,在美国政治里算不上什么新鲜事。以前就经常有人在大选当天打电话发假地址、报假时间,忽悠对手的选民错过投票。

纽约大学法学院布伦南司法中心的 Mekela Panditharatne 指出,电话诈骗压制选票是老套路,但生成式 AI 让这种作恶手段的吸引力瞬间放大了几十倍。以前找个配音演员很容易露馅,现在用 AI 仿冒权威人物,成本低到近乎为零,逼真度却能骗过不少匆忙接电话的普通人。

问题是,技术在狂奔,规则却在原地踏步。

虽然美国联邦法律明文禁止恶意阻碍选民投票,但在针对 AI 欺诈的专门立法上几乎一片空白。参议员 Richard Blumenthal 表示,哪怕是一个完全不懂技术的新手,也能在几分钟内掌握这种工具。尽管多方都在施压联邦选举委员会,但该委员会发言人称,目前甚至还没决定是否要就这项技术的监管启动立项流程。

为什么重要

这起事件最危险的信号,在于生成式 AI 武器化不再是实验室里的推演,而是真正落到了选战实操中。

对普通人来说,防御成本正在呈指数级上升。平时我们看视频还能找找光影破绽,但日常生活中接起一个只有十几秒的座机或手机电话,大部分人根本没有专业设备的鉴伪能力,极容易在毫无防备下被误导。

从行业和监管角度看,我们认为这暴露出治理节奏的严重脱节。自动化语音拨号本身就属于监管灰区,叠加了零门槛的语音克隆后,直接变成了杀伤力极强的定向定点扰乱工具。

而联邦选举委员会等官方机构至今仍在规则制定的门槛前观望,这种迟缓看起来不仅挡不住造假者,还会反向助长侥幸心理。如果不尽快在源头追溯、平台拦截以及法律惩戒上筑起底线,接下来任何一场选举,恐怕都要陷入辨别谁是真人的泥潭中。

来源 (1)

  1. [1]
    nbcnews.com(在新标签页打开)原文nbcnews.com

话题追踪AI 深度伪造与语音克隆监管

这个话题的历次新闻,最新的在上面。

  1. 田纳西州签署《ELVIS 法案》:全美首个立法严打 AI 拟音侵权
  2. 拜登在国情咨文发话:呼吁立法禁止 AI 声音冒充与克隆
  3. 美国 FCC 明确出手:自动拨号电话用 AI 仿声正式违法
  4. FCC 出手:拟将自动骚扰电话中的 AI 声音克隆直接定为违法
  5. 假拜登电话劝选民别投票:专家称极可能是 AI 深度伪造本条

每日 AI 内容精选