跳到正文
IFAI

產業動態

馬里蘭教師用 AI 偽造校長歧視錄音被捕:合成聲音成報復工具

首次發布 傳播指數 50

美國馬里蘭州一名高中教師被捕,警方指控其利用 AI 克隆校長聲音、偽造歧視錄音來實施報復。假音訊此前導致校長被停職,FBI 取證後證實其為 AI 合成。這是典型的生成式語音陷害與犯罪案件。

馬里蘭教師用 AI 偽造校長歧視錄音被捕:合成聲音成報復工具
圖:nbcnews.com

一段錄音就能把一個人徹底毀掉。今年 1 月,美國馬里蘭州派克斯維爾高中的校長 Eric Eiswert 突然捲入輿論風暴,一段在社交平臺瘋傳的錄音裡,他用極其惡劣的言辭辱罵黑人學生和猶太社群。鋪天蓋地的聲討隨之而來,學校被抗議電話打爆,校長被迫停職接受調查。

然而三個多月後,案情迎來反轉。當地警方查明,這段錄音根本不是校長說的,而是該校體育主任利用 AI 深度偽造的聲音。

查賬查出的「AI 陷害門」

4 月 25 日上午,31 歲的體育兼體育總監 Dazhon Darien 在巴爾的摩機場準備登機前往休斯頓,安檢人員發現他行李中的槍支包裝不合規,隨後調出檔案發現他身負逮捕令,將其當場抓獲。警方表示目前無法確認他當時是否試圖潛逃。

調查顯示,Darien 偽造錄音的動機是報復。去年 12 月,校長 Eiswert 發現 Darien 涉嫌違規挪用學校資金,私自批准了一筆 1916 美元的款項給自己的室友,謊稱對方是女子足球隊助理教練,但教練和隊員都表示此人從未參與過訓練。此外,校長還因 Darien 未經批准擅自解僱教練而對其進行訓話,Darien 面臨合同到期不予續約的危機。

為了搞垮校長,Darien 策劃了這次陷害。他在 12 月 18 日、19 日以及錄音發出前一天的 1 月 15 日,多次通過學校內網搜尋 OpenAI 工具和微軟必應聊天服務。

破綻百出的數字腳印

1 月 16 日晚,偽造的音訊被髮送給包括 Darien 在內的三名教師。音訊裡,偽造的校長聲音抱怨黑人學生甚至考不出及格分,還稱如果再收到當地猶太社群的投訴就要站到對立面去。

錄音通過一個名為 murder_ink_bmore 的熱門 Instagram 賬號以及學生社群迅速擴散,校長隨後被停職長達數月。

但偽造者的反偵察手段非常粗糙。警方調查發現,傳送音訊的 Gmail 郵箱關聯的網路服務提供商登記在 Darien 的祖母名下,而賬號的密保手機號歸屬地為加州,正是 Darien 本人的號碼。FBI 聘請的技術專家對音訊進行司法分析後確認,錄音中包含 AI 生成內容並在事後經過人工剪輯的痕跡。

目前,Darien 面臨擾亂學校活動、報復證人、跟蹤和盜竊等多項指控,初審時以 5000 美元保釋。學區已建議將其正式開除。

為什麼重要

這起案件是 AI 聲音克隆被用於現實職場報復和人身陷害的典型樣本。

對普通人來說,最可怕的地方在於成本的不對等。製造一段足以亂真的偽造音訊,如今只需要在網頁端呼叫現成的商業大模型和語音克隆工具,花上幾分鐘就能搞定;但受害者要自證清白,卻需要依賴 FBI 級別的專家耗時數月介入調查。在這幾個月裡,校長的聲譽、職業生涯和心理狀態已經遭受了不可逆的創傷,正如當地校長工會代表所擔憂的那樣,即使真相大白,造成的心理陰影也難以輕易抹平。

從行業和法律角度來看,這給平臺與執法部門敲響了警鐘。過去人們討論深度偽造,往往聚焦於政客大選或電信詐騙,但事實證明,個人層面的惡意使用正在急劇氾濫。我們認為,當前生成式 AI 廠商對語音克隆的許可權管控和數字水印技術依然流於形式,受害者事後維權門檻過高。如果不盡快建立更嚴密的防偽追蹤機制,任何人都有可能在明天下班前,被同事用幾行提示詞徹底毀掉生活。

來源 (2)

  1. [1]
    nbcnews.com(在新分頁開啟)原文nbcnews.com
  2. [2]
    thebaltimorebanner.com(在新分頁開啟)報導thebaltimorebanner.com

每日 AI 內容精選