OpenAI 演示 Voice Engine:只需 15 秒音訊,但因安全風險暫不開放
OpenAI 展示了語音克隆模型 Voice Engine 的小規模測試進展。該模型僅憑 15 秒音訊樣本就能復刻逼真且帶情感的人聲。由於擔心深度偽造等濫用風險,官方暫不公開發布,並呼籲社會逐步淘汰銀行等系統的語音身份驗證。

只要給你 15 秒平時隨手錄的語音,AI 就能用你的聲音、帶著你的口音,說出你這輩子都沒講過的臺詞。
OpenAI 拿出了他們雪藏許久的聲音克隆模型 Voice Engine。不過他們這次並不是要把它開放給所有人,而是特意發文表示:技術早就做好了,但我們決定先把它關在籠子裡。
15 秒音訊就能借走你的嗓子
Voice Engine 的門檻低得有點嚇人。只要一段 15 秒的說話樣本加上一段文字,它就能生成極其自然、帶有情緒的語音,聽起來跟本人幾乎一模一樣。
實際上,OpenAI 早在 2022 年底就做出了這個模型。你在 ChatGPT 語音功能、朗讀功能以及官方 TTS API 裡聽到的那些預設聲音,背後其實全是由它驅動的。
從去年底開始,OpenAI 把這項能力私下開放給了極少數合作伙伴,用來測試具體的使用場景。
比如教育公司 Age of Learning 拿它結合 GPT-4 給孩子做即時個性化互動;AI 影片平臺 HeyGen 拿它做影片多語言翻譯,神奇的是,如果讓一個法國人說英語,生成的語音還會特意保留他的法國口音。
它甚至進到了病房裡。布朗大學醫學院附屬的神經科學研究所裡,三位醫生僅憑一段以前學校專案的影片錄音,就幫一位因腦血管腫瘤失去流利發聲能力的年輕患者重新找回了自己的聲音。無障礙溝通應用 Livox 也靠它為失語人士定製不再機械化的專屬嗓音,還支援斯瓦希里語和肯亞流行的混合語言 Sheng。
越逼真越危險,OpenAI 勸銀行趕緊改規則
既然這麼好用,為什麼不開放給大家玩?
答案很簡單:今年是全球多個國家的大選年。如果任何人只要拿到別人 15 秒的錄音就能隨意克隆,欺詐和偽造名人的成本幾乎會降到零。
OpenAI 對測試夥伴立下了非常苛刻的規矩:必須拿到原聲主人的知情同意,嚴禁開發者讓普通使用者自己上傳聲音克隆,生成的音訊必須打上不可見的水印用於溯源,而且必須向聽眾明確標明這是 AI 生成的聲音。
更有意思的是,OpenAI 還公開發出呼籲,建議金融機構趕緊淘汰用聲音做身份驗證的機制。換句話說,如果你的銀行還在用聲音密碼來登入賬戶,在如今的 AI 技術面前基本等於不設防。
為什麼重要
對於創作者和需要語言康復的患者來說,15 秒的聲音克隆技術是實打實的福音。過去做一套高質量音色克隆需要進錄音棚錄幾個小時,現在一段微信語音的長度就能搞定,出海影片做多語種本地化翻譯的門檻瞬間被踩平了。
但普通人現在顯然摸不到它,短期內也不值得去期待公共版本。OpenAI 這一步走得相當狡黠:它既向外界展示了自己在音訊生成領域的頂級肌肉,證明自己早在兩年前就掌握了同類創業公司的核心技術,又搶佔了負責任 AI 的道德高地。
問題在於,聲音克隆的技術秘密並不能真的被封鎖。開源社群和競爭對手遲早會做出同樣低門檻的模型,而且他們可不會給生成的聲音加上不可見水印,也不會限制使用者去克隆政客的聲音。
我們認為,OpenAI 這次展示更像是一場社會抗藥性測試。它在明確告訴所有人:聲音已經不再能證明你是你,整個社會的身份認證和安全體系,都必須跟著徹底重構了。
來源 (1)
- openai.com(在新分頁開啟)原文openai.com