ElevenLabs 迎战 2024 大选：设「禁声名单」拦截美英政客声音克隆

大选年到了，各家 AI 公司最怕的不是模型写错事实，而是自家技术被用来冒充政客搞破坏。如果你接到一通电话，那头传来说话腔调一模一样的参选人声音，告诉你投票日改期了，这才是真正的灾难。

针对 2024 年全球多国即将迎来的选举，语音克隆明星公司 ElevenLabs 公布了一套应对大选滥用的防御方案，核心就是要管住那些企图克隆政治人物声音的手。

把参选政客列入「禁克隆」名单

ElevenLabs 这次最核心的举措，是引入了一套名为「禁止生成声音」（no-go voices）的安全防范机制。

这套机制专门用来检测和阻止用户克隆正在参与总统或首相竞选的政治候选人声音。官方表示，这项拦截会先从美国和英国的大选开始落地，后续再逐步拓展到其他语言和选举周期中。

除了拦截特定声音，ElevenLabs 也重申了使用红线。任何将语音技术用于政治竞选中的冒充他人、制作聊天机器人、或者批量拨打自动外呼电话（robocalls）的行为，都属于直接违规。

平台还明确反对利用 AI 歪曲选举流程、虚构选民资格或贬低投票价值。为了抓住违规者，ElevenLabs 表示其系统一直支持将生成音频逆向追溯到创建账号，目前团队正在开发新的审核机制与内部审查流程。

另外，官方也提到了去年 6 月上线的「AI 语音分类器」（AI Speech Classifier）。任何人都可以把可疑音频上传上去，检测这段声音到底是不是 ElevenLabs 家的模型生成的。

为什么重要

对创作者和普通开发者来说，日常的声音克隆和配音业务不会受到太大影响。但如果你打算接政治公关的单子，或者做政治题材的恶搞内容，红线已经非常明确了，甚至可能直接被封号。

对整个生成式音频行业来说，ElevenLabs 这次表态是被大选周期倒逼出来的必然选择。语音克隆现在的拟真度太高、生成成本太低，尤其是自动外呼电话和虚假音频，极容易在大选关键时刻扰乱选民判断。如果头部公司不主动设防，接下来迎来的可能就是监管部门的一刀切重罚。

我们认为，ElevenLabs 推出「禁声名单」看起来很果断，但实际执行起来大概率会变成打地鼠游戏。名单怎么界定、地方性选举候选人管不管、小语种候选人如何快速识别，都是摆在眼前的难点。

不过，他们愿意提供公众可用的检测工具，并且保留底层账号的生成溯源路径，这点做得很聪明。至少在事后问责和打假的时候，平台能把证据拿出来，而不是把锅完全甩给开源社区或黑产。