遭遇恶意深度伪造：斯嘉丽·约翰逊呼吁美政府立法严管 AI

斯嘉丽·约翰逊又被 AI 盯上了。上一次是 OpenAI 搞出的仿生语音，这一次更恶劣，有人直接把她的脸做进了涉及仇恨言论的恶搞视频里。

面对满天飞的虚假内容，这位好莱坞女星没有选择私下发律师函了事，而是公开把矛头对准了华盛顿。她向媒体直言，面对 AI 迫在眉睫的威胁，美国政府在立法保护公民方面几乎处于瘫痪状态。

一段把多位明星拖下水的病毒视频

这次惹事的视频在社交平台上疯传。画面里的斯嘉丽·约翰逊和其他几位知名犹太裔明星，包括杰瑞·宋飞、米拉·库尼斯、杰克·布莱克、德雷克、杰克·吉伦哈尔以及亚当·桑德勒，集体穿上了一件恶俗的 T 恤。

那件衣服上印着 Kanye 的名字，图案是一只竖起中指的手，中间还套着大卫之星。事情的起因是 Kanye West 上周重返 X 平台发表反犹言论，甚至在自己网站上开卖印有纳粹万字符的衣服，随后他的网站被封禁。

视频制作者顺势用 AI 生成了这群好莱坞明星的反应。斯嘉丽在给《People》的声明中表示，作为一名犹太女性，她对仇恨言论零容忍，但她坚信，AI 放大的仇恨言论威胁，远比任何一个具体的人更大。

她警告说，如果不对滥用 AI 的行为大声疾呼，我们迟早会失去对现实的把握。

孤军奋战的名人，与停滞不前的立法

斯嘉丽算是好莱坞对 AI 技术警惕性最高的人之一。早在 2023 年，她就起诉过一家在广告中盗用她名字和肖像的 AI 软件开发者。

去年 OpenAI 推出 ChatGPT 语音功能时，上线了一个听起来极像斯嘉丽的声音，在她公开抗议后，OpenAI 不得不迅速下架了该语音。

但靠名人每次单独维权，显然堵不住这个巨大的漏洞。斯嘉丽呼吁国会议员必须把限制 AI 的立法当作头等大事，并强调这是一个关乎全人类未来的跨党派议题。

现实情况却相当尴尬。去年美国国会虽然提出过针对非自愿色情深度伪造的法案，但在其他类型的 AI 滥用上几乎毫无实质进展。

监管甚至还在倒退。加州州长加文·纽森在 2024 年 9 月否决了一项重磅 AI 安全法案；特朗普上台后废除了拜登此前签署的 AI 安全行政令；就在本周，美英两国还拒绝签署一项倡导伦理使用 AI 的国际宣言。

为什么重要

斯嘉丽的发声撕开了一个残酷的事实：当最顶级的明星面对肖像被滥用都只能靠舆论喊话时，普通人一旦遭遇深度伪造，几乎没有任何武器可以自卫。

我们认为，将 AI 生成的仇恨言论和侵权问题上升到国家立法层面是必然的趋势，但目前的政治风向正朝着完全相反的方向走。美国政府眼下更倾向于给 AI 行业松绑以维持竞争优势，这种对安全监管的退让，看起来正在为更大规模的虚假信息灾难埋下伏笔。

对普通创作者和公众来说，现在的局面意味着维权成本极高。即使你发现自己的肖像被恶意套用，只要不涉及未经同意的色情内容，现存的法律往往拿肇事者毫无办法。

科技巨头和模型开发者也无法置身事外。开源和廉价生成工具的扩散让造假门槛降到了极低，如果平台和法律都不设置强制性的数字水印或溯源机制，整个互联网的信息可信度只会加速崩塌。