跳到正文
IFAI

產業動態

紐約市長用 AI 克隆自己聲音打多語電話,引發倫理爭議

首次發布 傳播指數 54

昨天,紐約市長 Eric Adams 在釋出會上透露,其辦公室正用 AI 工具克隆自己的聲音,向市民撥打普通話、粵語和西語等多語種自動電話。最受爭議的是電話未註明是 AI 合成,被監督團體批評涉嫌誤導與虛榮;市長則辯稱這只是為了跨越語言障礙聯絡市民。

紐約市長用 AI 克隆自己聲音打多語電話,引發倫理爭議
圖:theverge.com

接到市長親自打來的電話,對方還用流利的普通話跟你打招呼,你會是什麼反應?

紐約市民最近就遇到了這事。紐約市長 Eric Adams 承認,他正在用 AI 聲音克隆技術,給不同族裔的市民撥打自動外呼電話,內容涵蓋西班牙語、普通話、粵語等多種語言。問題是,這位市長一句中文都不會說,電話裡也根本沒告訴市民這是 AI 合成的聲音。

會說五門外語的「AI 市長」

這套操作是 Adams 在宣傳紐約市新發布的「人工智慧行動計劃」時自己爆料的。當時紐約市剛剛推出基於微軟 Azure AI 的 MyCityChatbot,用來幫市民諮詢如何開辦小企業。技術長 Matt Fraser 甚至在會上暢想,未來要把全市各項公共服務都交給機器人。

聊到興起,Adams 主動談起了自己的語音電話。他稱自己是個「科技迷」和前程式設計師,只要輸入文本,AI 就能用他的聲音轉譯成任何語言。

根據市長髮言人的資料,這些外呼電話已經觸達了超過 400 萬紐約市民,主要用來宣傳市政招聘會和 Rise Up NYC 音樂會。其中包含數千通西班牙語電話、250 多通意第緒語、160 多通普通話、89 通粵語以及 23 通海地克里奧爾語。

Adams 對此頗為得意。他提到在街上經常有人攔住他,驚訝地問他什麼時候學會了中文。在記者會上被追問是否誤導公眾時,他為自己辯護說,自己得管理整個城市,必須用市民能聽懂的語言溝通,隨後笑著說了一句中文「ni hao」結束了釋出會。

親民溝通還是公款造假?

但隱私和法律專家完全笑不出來。監督技術監督專案(STOP)執行總監 Albert Fox Cahn 直言,花納稅人的錢讓市民誤以為市長精通多門外語,這極具奧威爾色彩。他認為,多語言公共通知很有必要,但搞市長本人的聲音深度偽造,純粹是一場令人毛骨悚然的「虛榮工程」。

福特漢姆大學政治學副教授 Annika Marlen Hinze 也指出,盡力覆蓋多種語言值得鼓勵,但假裝自己親自掌握了這些語言,是一種微妙的欺騙,對政治人物來說存在嚴重的倫理問題。

紐約市法律原本就要求公共機構提供十種主要語言的服務翻譯,以及約百種語言的電話口譯。以前的紐約市長們也努力嘗試過跨語種溝通,比如彭博和白思豪曾因蹩腳的西班牙語被全網調侃,但至少市民知道那是真人在說話。

為什麼重要

我們認為,Adams 這一步看似用技術解決了多元城市的溝通痛點,骨子裡卻踩了政務 AI 最大的雷區:缺乏告知與歸屬。

對普通市民來說,接到母語市政通知本來是好事。但在沒有 AI 宣告的情況下,市民很難分清這到底是一則客觀的政務廣播,還是市長為了個人政治形象量身定製的深度偽造。當技術被用來偽造政客的個人能力時,信任的基礎就已經動搖了。

從行業和公共治理的角度看,紐約市給全球政務機構提供了一個反面教材。生成式語音克隆的門檻已經極低,地方官員隨時可以用它向選民做定製化輸出。如果政府機構帶頭在不加標註的情況下使用深偽音訊,未來又如何有公信力去監管民間和選舉中的 AI 欺詐?

技術用於政務溝通本身沒有原罪。聰明的做法是大大方方告訴市民「這是由 AI 生成的多語言市長聲音」,或者直接使用標準的虛擬播音員。拿自己的聲音硬套並不掌握的語言,還不主動披露,看起來更像是政客借技術光環滿足個人虛榮,隱患遠大於收益。

來源 (2)

  1. [1]
    theverge.com(在新分頁開啟)原文theverge.com
  2. [2]

每日 AI 內容精選