纽约市长用 AI 克隆自己声音打多语电话,引发伦理争议
昨天,纽约市长 Eric Adams 在发布会上透露,其办公室正用 AI 工具克隆自己的声音,向市民拨打普通话、粤语和西语等多语种自动电话。最受争议的是电话未注明是 AI 合成,被监督团体批评涉嫌误导与虚荣;市长则辩称这只是为了跨越语言障碍联系市民。

接到市长亲自打来的电话,对方还用流利的普通话跟你打招呼,你会是什么反应?
纽约市民最近就遇到了这事。纽约市长 Eric Adams 承认,他正在用 AI 声音克隆技术,给不同族裔的市民拨打自动外呼电话,内容涵盖西班牙语、普通话、粤语等多种语言。问题是,这位市长一句中文都不会说,电话里也根本没告诉市民这是 AI 合成的声音。
会说五门外语的「AI 市长」
这套操作是 Adams 在宣传纽约市新发布的「人工智能行动计划」时自己爆料的。当时纽约市刚刚推出基于微软 Azure AI 的 MyCityChatbot,用来帮市民咨询如何开办小企业。首席技术官 Matt Fraser 甚至在会上畅想,未来要把全市各项公共服务都交给机器人。
聊到兴起,Adams 主动谈起了自己的语音电话。他称自己是个「科技迷」和前程序员,只要输入文本,AI 就能用他的声音转译成任何语言。
根据市长发言人的数据,这些外呼电话已经触达了超过 400 万纽约市民,主要用来宣传市政招聘会和 Rise Up NYC 音乐会。其中包含数千通西班牙语电话、250 多通意第绪语、160 多通普通话、89 通粤语以及 23 通海地克里奥尔语。
Adams 对此颇为得意。他提到在街上经常有人拦住他,惊讶地问他什么时候学会了中文。在记者会上被追问是否误导公众时,他为自己辩护说,自己得管理整个城市,必须用市民能听懂的语言沟通,随后笑着说了一句中文「ni hao」结束了发布会。
亲民沟通还是公款造假?
但隐私和法律专家完全笑不出来。监督技术监督项目(STOP)执行总监 Albert Fox Cahn 直言,花纳税人的钱让市民误以为市长精通多门外语,这极具奥威尔色彩。他认为,多语言公共通知很有必要,但搞市长本人的声音深度伪造,纯粹是一场令人毛骨悚然的「虚荣工程」。
福特汉姆大学政治学副教授 Annika Marlen Hinze 也指出,尽力覆盖多种语言值得鼓励,但假装自己亲自掌握了这些语言,是一种微妙的欺骗,对政治人物来说存在严重的伦理问题。
纽约市法律原本就要求公共机构提供十种主要语言的服务翻译,以及约百种语言的电话口译。以前的纽约市长们也努力尝试过跨语种沟通,比如彭博和白思豪曾因蹩脚的西班牙语被全网调侃,但至少市民知道那是真人在说话。
为什么重要
我们认为,Adams 这一步看似用技术解决了多元城市的沟通痛点,骨子里却踩了政务 AI 最大的雷区:缺乏告知与归属。
对普通市民来说,接到母语市政通知本来是好事。但在没有 AI 声明的情况下,市民很难分清这到底是一则客观的政务广播,还是市长为了个人政治形象量身定制的深度伪造。当技术被用来伪造政客的个人能力时,信任的基础就已经动摇了。
从行业和公共治理的角度看,纽约市给全球政务机构提供了一个反面教材。生成式语音克隆的门槛已经极低,地方官员随时可以用它向选民做定制化输出。如果政府机构带头在不加标注的情况下使用深伪音频,未来又如何有公信力去监管民间和选举中的 AI 欺诈?
技术用于政务沟通本身没有原罪。聪明的做法是大大方方告诉市民「这是由 AI 生成的多语言市长声音」,或者直接使用标准的虚拟播音员。拿自己的声音硬套并不掌握的语言,还不主动披露,看起来更像是政客借技术光环满足个人虚荣,隐患远大于收益。
来源 (2)
- theverge.com(在新标签页打开)原文theverge.com
- thecityreporter.nyc(在新标签页打开)报道thecityreporter.nyc