遭遇惡意深度偽造：斯嘉麗·約翰遜呼籲美政府立法嚴管 AI

斯嘉麗·約翰遜又被 AI 盯上了。上一次是 OpenAI 搞出的仿生語音，這一次更惡劣，有人直接把她的臉做進了涉及仇恨言論的惡搞影片裡。

面對滿天飛的虛假內容，這位好萊塢女星沒有選擇私下發律師函了事，而是公開把矛頭對準了華盛頓。她向媒體直言，面對 AI 迫在眉睫的威脅，美國政府在立法保護公民方面幾乎處於癱瘓狀態。

一段把多位明星拖下水的病毒影片

這次惹事的影片在社交平臺上瘋傳。畫面裡的斯嘉麗·約翰遜和其他幾位知名猶太裔明星，包括傑瑞·宋飛、米拉·庫尼斯、傑克·布萊克、德雷克、傑克·吉倫哈爾以及亞當·桑德勒，集體穿上了一件惡俗的 T 恤。

那件衣服上印著 Kanye 的名字，圖案是一隻豎起中指的手，中間還套著大衛之星。事情的起因是 Kanye West 上週重返 X 平臺發表反猶言論，甚至在自己網站上開賣印有納粹萬字符的衣服，隨後他的網站被封禁。

影片製作者順勢用 AI 生成了這群好萊塢明星的反應。斯嘉麗在給《People》的宣告中表示，作為一名猶太女性，她對仇恨言論零容忍，但她堅信，AI 放大的仇恨言論威脅，遠比任何一個具體的人更大。

她警告說，如果不對濫用 AI 的行為大聲疾呼，我們遲早會失去對現實的把握。

孤軍奮戰的名人，與停滯不前的立法

斯嘉麗算是好萊塢對 AI 技術警惕性最高的人之一。早在 2023 年，她就起訴過一家在廣告中盜用她名字和肖像的 AI 軟體開發者。

去年 OpenAI 推出 ChatGPT 語音功能時，上線了一個聽起來極像斯嘉麗的聲音，在她公開抗議後，OpenAI 不得不迅速下架了該語音。

但靠名人每次單獨維權，顯然堵不住這個巨大的漏洞。斯嘉麗呼籲國會議員必須把限制 AI 的立法當作頭等大事，並強調這是一個關乎全人類未來的跨黨派議題。

現實情況卻相當尷尬。去年美國國會雖然提出過針對非自願色情深度偽造的法案，但在其他型別的 AI 濫用上幾乎毫無實質進展。

監管甚至還在倒退。加州州長加文·紐森在 2024 年 9 月否決了一項重磅 AI 安全法案；特朗普上臺後廢除了拜登此前簽署的 AI 安全行政令；就在本週，美英兩國還拒絕簽署一項倡導倫理使用 AI 的國際宣言。

為什麼重要

斯嘉麗的發聲撕開了一個殘酷的事實：當最頂級的明星面對肖像被濫用都只能靠輿論喊話時，普通人一旦遭遇深度偽造，幾乎沒有任何武器可以自衛。

我們認為，將 AI 生成的仇恨言論和侵權問題上升到國家立法層面是必然的趨勢，但目前的政治風向正朝著完全相反的方向走。美國政府眼下更傾向於給 AI 行業鬆綁以維持競爭優勢，這種對安全監管的退讓，看起來正在為更大規模的虛假資訊災難埋下伏筆。

對普通創作者和公眾來說，現在的局面意味著維權成本極高。即使你發現自己的肖像被惡意套用，只要不涉及未經同意的色情內容，現存的法律往往拿肇事者毫無辦法。

科技巨頭和模型開發者也無法置身事外。開源和廉價生成工具的擴散讓造假門檻降到了極低，如果平臺和法律都不設定強制性的數字水印或溯源機制，整個網際網路的資訊可信度只會加速崩塌。