ElevenLabs 迎戰 2024 大選：設「禁聲名單」攔截美英政客聲音克隆

大選年到了，各家 AI 公司最怕的不是模型寫錯事實，而是自家技術被用來冒充政客搞破壞。如果你接到一通電話，那頭傳來說話腔調一模一樣的參選人聲音，告訴你投票日改期了，這才是真正的災難。

針對 2024 年全球多國即將迎來的選舉，語音克隆明星公司 ElevenLabs 公佈了一套應對大選濫用的防禦方案，核心就是要管住那些企圖克隆政治人物聲音的手。

把參選政客列入「禁克隆」名單

ElevenLabs 這次最核心的舉措，是引入了一套名為「禁止生成聲音」（no-go voices）的安全防範機制。

這套機制專門用來檢測和阻止使用者克隆正在參與總統或首相競選的政治候選人聲音。官方表示，這項攔截會先從美國和英國的大選開始落地，後續再逐步拓展到其他語言和選舉週期中。

除了攔截特定聲音，ElevenLabs 也重申了使用紅線。任何將語音技術用於政治競選中的冒充他人、製作聊天機器人、或者批次撥打自動外呼電話（robocalls）的行為，都屬於直接違規。

平臺還明確反對利用 AI 歪曲選舉流程、虛構選民資格或貶低投票價值。為了抓住違規者，ElevenLabs 表示其系統一直支援將生成音訊逆向追溯到建立賬號，目前團隊正在開發新的稽核機制與內部審查流程。

另外，官方也提到了去年 6 月上線的「AI 語音分類器」（AI Speech Classifier）。任何人都可以把可疑音訊上傳上去，檢測這段聲音到底是不是 ElevenLabs 家的模型生成的。

為什麼重要

對創作者和普通開發者來說，日常的聲音克隆和配音業務不會受到太大影響。但如果你打算接政治公關的單子，或者做政治題材的惡搞內容，紅線已經非常明確了，甚至可能直接被封號。

對整個生成式音訊行業來說，ElevenLabs 這次表態是被大選週期倒逼出來的必然選擇。語音克隆現在的擬真度太高、生成成本太低，尤其是自動外呼電話和虛假音訊，極容易在大選關鍵時刻擾亂選民判斷。如果頭部公司不主動設防，接下來迎來的可能就是監管部門的一刀切重罰。

我們認為，ElevenLabs 推出「禁聲名單」看起來很果斷，但實際執行起來大機率會變成打地鼠遊戲。名單怎麼界定、地方性選舉候選人管不管、小語種候選人如何快速識別，都是擺在眼前的難點。

不過，他們願意提供公眾可用的檢測工具，並且保留底層賬號的生成溯源路徑，這點做得很聰明。至少在事後問責和打假的時候，平臺能把證據拿出來，而不是把鍋完全甩給開源社群或黑產。