喬治·卡林遺產案和解:播客方同意永久下架 AI 仿造脫口秀
週二,已故傳奇喜劇演員喬治·卡林的遺產委員會與播客 Dudesy 創作者達成和解。被告方同意全面下架並永久停用卡林的聲音與肖像。該播客 1 月曾釋出聲稱由 AI 仿造的一小時專場。這起案件作為美國首批名人深度偽造訴訟之一,為未經許可數字復活逝者劃下紅線。
週二,已故傳奇喜劇演員喬治·卡林的遺產委員會與播客 Dudesy 創作者達成和解。被告方同意全面下架並永久停用卡林的聲音與肖像。該播客 1 月曾釋出聲稱由 AI 仿造的一小時專場。這起案件作為美國首批名人深度偽造訴訟之一,為未經許可數字復活逝者劃下紅線。
OpenAI 展示了語音克隆模型 Voice Engine 的小規模測試進展。該模型僅憑 15 秒音訊樣本就能復刻逼真且帶情感的人聲。由於擔心深度偽造等濫用風險,官方暫不公開發布,並呼籲社會逐步淘汰銀行等系統的語音身份驗證。
ElevenLabs 宣佈與 rabbit 達成合作,將其低延遲擬真人聲模型接入隨身裝置 rabbit r1。使用者按下按鍵直接說話,就能通過自然語音操作打車、點餐等任務。高質量語音的加入,讓這臺掌上 AI 助手聽起來更像一個真人助理。
週四,美國田納西州州長簽署《ELVIS 法案》,成為全美首個立法保護藝術家免受未授權 AI 擬音侵權的州。新法案將公開權延伸至 AI 領域,明確禁止未經許可模仿歌手聲音,法案定於 7 月 1 日正式生效。
機器人公司 Figure 展示了人形機器人 Figure 01 接入 OpenAI 模型的演示:機器人不僅能即時對話,還能聽懂口頭指令分揀物品,說話時甚至帶有逼真的停頓。Figure 負責動作控制,OpenAI 提供視覺與語言能力,讓大模型真正開始擁有物理實體。
Deepgram 推出即時文本轉語音 API Aura。它把自然的人聲模型與低延遲結合,通常在半秒甚至 0.3 秒內就能發聲,每 1000 字元定價 0.015 美元。這讓開發者能給大模型驅動的客服智慧體裝上能即時接話的聲音。
週四晚,拜登在國情諮文演講中呼籲立法禁止 AI 聲音冒充偽造。但他並未細化具體監管措施或懲罰手段,也未明確是否覆蓋文娛行業。此前好萊塢雖對聲音復刻達成授權協議,但 AI 擬真聲音已正式成為白宮重點防範的議題。
OpenAI 為 ChatGPT 推出「Read Aloud」朗讀功能,覆蓋 iOS、Android 應用及網頁端。在移動端長按訊息或在網頁端點選對應圖示,AI 就能把文字回答直接念出來。對於在路上或者需要解放雙手的場景來說,這讓文字聊天多了一種隨時收聽的使用方式。
Pika 推出 Lip Sync 功能,接入 ElevenLabs 提供配音,讓影片角色的嘴型能與臺詞同步。它支援文本轉語音或上傳音訊,省去了繁瑣的後期外掛工具。不過該功能目前僅限 Pika Pro 付費使用者和受邀測試者使用。
ElevenLabs 宣佈與 Perplexity 達成合作,聯手推出每日短音訊播客《Discover Daily》。節目結合 Perplexity 的搜尋內容引擎與 ElevenLabs 的 AI 語音,自動播報科技、創新與文化最新頭條,已在各大播客平臺上線。
2 月 22 日,AI 語音初創公司 ElevenLabs 宣佈入選 2024 年迪士尼加速器計劃。團隊表示將借力迪士尼的創意資源,推進跨語言溝通技術的落地。這意味著其 AI 配音和聲音技術,正快速向全球頂級影視娛樂生態滲透。
ElevenLabs 宣佈多項應對 2024 年全球選舉的防護措施。平臺上線「禁克隆聲音」防護機制,優先攔截美英大選候選人的聲線克隆,並嚴禁利用 AI 語音進行冒充、打造政治聊天機器人或撥打自動騷擾電話,同時繼續提供鑑別工具以追查音訊來源。
NBA 總裁 Adam Silver 展示了實驗性助手 NB-AI。球迷只需下達語音指令,就能個性化定製觀賽畫面,例如把正在進行的比賽即時轉成「蜘蛛俠」卡通風格,或直接識別併購買球星腳上的球鞋。不過這項功能目前仍是概念演示。
Amazon 公佈了目前最大的語音合成模型 BASE TTS,引數達 9.8 億。研究顯示,語音模型規模擴大後同樣會出現類似大語言模型的「湧現能力」,無需額外訓練就能更自然地拿捏情緒、耳語和生僻詞發音。不過出於安全考慮,官方並未開源模型權重。
ElevenLabs 宣佈創作者可通過 Voice Library 變現。使用者只需上傳 30 分鐘音訊建立專業聲音克隆並共享,當付費訂閱者呼叫該聲音時即可獲得現金獎勵。平臺還提供聲音所有權驗證、每日收益統計及內容稽核保護。
美國聯邦通訊委員會(FCC)裁定將自動撥號電話中使用 AI 生成聲音定為違法。新規將 AI 仿聲納入現有法律監管,賦予各州總檢察長直接執法權,即使不證明具體詐騙罪名,單憑使用 AI 語音撥打即可追責。
本週,Roblox 上線基於自研大模型的即時 AI 聊天翻譯功能,支援 16 種語言互譯。韓國玩家輸入韓語,英語或德語玩家能直接看到被即時翻譯成本國語言的文字。該功能已接入所有使用 TextChatService 的遊戲中,未來還計劃拓展至語音即時翻譯。
美國 FCC 提議將自動呼叫中使用 AI 聲音克隆技術直接認定為違法。此前新罕布夏州出現偽造拜登聲音干預選舉的電話,該提案擬將聲音克隆歸入既有法案的「人造聲音」範疇,讓執法部門起訴詐騙者時更直接、門檻更低。
Apple 在 iOS 17.4 測試版中為 Apple Podcasts 帶來基於機器學習的自動轉錄功能。測試使用者發現資料庫裡絕大多數節目都已生成逐字稿。不過通過外部 URL 新增的播客暫不支援,預計 3 月隨正式版推送。
NBC News 報道稱,新罕布夏州初選前一通冒充拜登總統、勸選民不要投票的自動電話極可能是 AI 偽造的 Deepfake。檢測機構表示該音訊大機率被操縱。如今克隆政客聲音門檻極低,而針對此類 AI 選舉誤導的法律監管仍存空白。