ElevenLabs 收緊語音克隆:4chan 偽造名人發聲,官方擬引入實名制
ElevenLabs 表示其語音克隆測試版遭到惡意濫用,4chan 上出現了大量利用該工具偽造艾瑪·沃森等名人聲音的違規音訊。ElevenLabs 稱正探索更嚴格的防護手段,考慮引入支付繫結、身份實名認證或人工逐一稽核。
ElevenLabs 表示其語音克隆測試版遭到惡意濫用,4chan 上出現了大量利用該工具偽造艾瑪·沃森等名人聲音的違規音訊。ElevenLabs 稱正探索更嚴格的防護手段,考慮引入支付繫結、身份實名認證或人工逐一稽核。
據 Axios 報道,初創公司 Truleo 開發的 AI 系統正被西雅圖等全美多家警局採用。該平臺每日自動轉錄分析執法記錄儀音訊,能秒級識別辱罵、暴力及「我無法呼吸」等高危語句並上報主管。加州阿拉米達警局試用後武力使用率下降 36%,每名警員月成本約 50 美元。
據世界經濟論壇報道,非營利組織 Earth Species Project 等團隊正利用 AI 解析動物聲音及生態聲學資料,嘗試破譯動物之間的溝通方式。研究人員表示,這項研究旨在理解動物需求以輔助生態保護,並嘗試實現雙向跨物種溝通。
ElevenLabs 宣佈推出全新生成式語音功能。使用者只需設定性別、年齡、口音和說話風格等基礎引數,點選生成就能得到一段此前完全不存在的全新人聲。該功能預計 2 月在 Voice Lab 正式上線。
微軟公佈文本轉語音模型 VALL-E。它僅憑 3 秒音訊就能模擬說話者的音色、情感甚至房間聲學環境。模型基於 Meta 音訊庫中 6 萬小時語音訓練,因防範聲音冒充等濫用風險,微軟目前未開原始碼。
MIT CSAIL 團隊公佈一種多模態表徵學習方法,讓 AI 能在共享嵌入空間裡對齊影片、音訊和文本,僅用 1000 個詞向量就能識別影片中的動作。最值得關注的是,這種設計提升了跨模態檢索準確度和可解釋性。不過模型目前一次只能處理兩種模態。
據 The Guardian 報道,Apple Books 商店開始上架標有「Narrated by Apple Books」的 AI 旁白有聲書。Apple 針對不同圖書題材匹配了專屬 AI 音色,目前支援小說、言情和部分非虛構作品。雖然製作仍需人工稽核且耗時一至兩個月,但它大幅降低了有聲書製作成本。
NVIDIA 開放 Omniverse Avatar Cloud Engine(ACE)搶先體驗。該服務將 Audio2Face 面部動畫與 Riva 語音合成打包為雲原生微服務,支援虛幻引擎 MetaHuman 與 Ready Player Me。開發者無需本地重型算力,即可在雲端快速生成可互動的 3D 數字人與虛擬助手。
2022 年底,韓國公司 DeepBrain AI 推出 Re;memory 付費服務。該技術結合照片、影片與預先採訪資料,通過影像合成和語音識別構建虛擬人,讓家屬在 400 英寸大屏體驗館內進行 30 分鐘即時影片對話,彌補未盡的告別。
AI 影片平臺 Synthesia 利用梅西 5 分鐘的真實片段,生成了他用流利英語等 10 種語言發言的合成影片。嘴型與發音高度貼合,引得球迷驚呼「逼真到可怕」。梅西在現實中極少公開講英文,這也體現了深度學習人像合成跨越語言隔閡的能力。
VentureBeat 發文分析深度學習對元宇宙的核心推動作用。從眼球追蹤、3D 重建到 Meta 的即時語音翻譯,深度神經網路正在補齊虛擬世界的基礎互動;更關鍵的是,生成式聊天機器人讓虛擬品牌代表擺脫死板指令碼,實現更自然的即時對話。
Dialpad 宣佈成立 AI Labs,並承諾未來五年投入 5000 萬美元推進 AI 研發。這筆資金將重點用於客戶流失與滿意度預測,以及自動向 CRM 追加記錄等工作流自動化。也就是說,Dialpad 正加速把即時語音識別能力擴充套件為更深度的企業決策與效率工具。