跳到正文
IFAI

AI工具

ElevenLabs 推出 AI 語音檢測器:傳一段音訊,秒查是否自家技術生成

首次發布 傳播指數 33

ElevenLabs 推出 AI Speech Classifier 語音檢測工具。使用者無需登入,上傳音訊即可分析前 1 分鐘內容,並獲得由其自研技術生成的機率;如果是,還會匹配聲音庫裡的近似聲音。不過目前該工具對 Eleven v3 生成的聲音識別尚不穩定。

ElevenLabs 推出 AI 語音檢測器:傳一段音訊,秒查是否自家技術生成
圖:beta.elevenlabs.io

網上冒充名人和熟人的 AI 假語音越來越逼真,大家最怕的就是分不清到底是誰在說話。現在,靠擬真語音技術出圈的 ElevenLabs,自己把測謊儀遞到了大家手上。

ElevenLabs 推出了一款名為 AI Speech Classifier 的語音分類工具。它的作用很簡單直白:幫你檢測一段音訊到底是不是用 ElevenLabs 自家的語音技術合成出來的。

傳一段音訊,1 分鐘驗明正身

這個檢測工具用起來幾乎沒有任何門檻。你甚至不需要註冊或登入賬號,直接上傳包含音訊的檔案或者影片片段就行。

系統目前只會提取並分析樣本檔案的前 1 分鐘音訊,並迅速給出一個機率值,告訴你這段聲音有多大機率是由 ElevenLabs 的 AI 技術生成的。

挺有意思的一個細節是,如果系統判定這段音訊確實是 AI 合成的,它還會主動在自家擁有超過一萬種聲音的素材庫裡,幫你找出最接近的聲音原型。

不過,ElevenLabs 也在頁面上寫明瞭限制:這個分類器目前還無法可靠地識別用其舊版 Eleven v3 模型生成的音訊。如果使用者遇到可疑內容,依然需要通過頁面提交報告。

為什麼重要

我們認為,ElevenLabs 推出這個工具,走的是一步很聰明的防禦棋。作為目前擬真語音領域跑得最快的團隊之一,它身上的聲音濫用風險和監管壓力也是最大的。自己做檢測工具,哪怕只能自查,也是在向公眾和監管層展現負責任的姿態。

對普通使用者、事實核查員和內容稽核者來說,現在多了一個排查門檻極低的武器。遇到疑似 ElevenLabs 合成的假新聞或詐騙錄音,花幾十秒就能拿去測一下,而且完全免費免登入。

但它的短板也寫在臉上。首先,它只管檢測自家技術生成的聲音,對其他廠商的 AI 語音無能為力。其次,它連自家的 Eleven v3 模型都無法可靠識別,這就留下了明顯的盲區。

看起來,這種由生成工具官方提供的檢測方案,雖然比完全沒有要好得多,但離真正解決跨平臺的 AI 偽造問題,還有很長一段路要走。

來源 (1)

  1. [1]
    beta.elevenlabs.io(在新分頁開啟)原文beta.elevenlabs.io

每日 AI 內容精選