OpenAI 釋出 GPT-4o 系統卡:說服力達中等風險,語音重點防偽造
OpenAI 正式釋出 GPT-4o 系統卡片與安全評分。在四項核心準備度評估中,生物威脅、網路攻擊與自主性均為低風險,僅說服力被評為中等;針對端到端語音帶來的聲音偽造、版權等新隱患,團隊動用 100 多名跨國紅隊進行了多輪對抗測試並內建攔截。
OpenAI 正式釋出 GPT-4o 系統卡片與安全評分。在四項核心準備度評估中,生物威脅、網路攻擊與自主性均為低風險,僅說服力被評為中等;針對端到端語音帶來的聲音偽造、版權等新隱患,團隊動用 100 多名跨國紅隊進行了多輪對抗測試並內建攔截。
Amazon Music 推出基於 AI 的 Topics 功能。該功能借助 AWS 技術分析播客轉錄文本與描述,提煉單集涉及的核心話題標籤。使用者點選標籤即可直接瀏覽討論同一主題的其他單集,目前已在移動端的熱門播客中開放。
據彭博社和《紐約時報》報道,Meta 正斥資數百萬美元與朱迪·丹奇、奧卡菲娜等明星洽談,計劃購買其聲音版權用於 Meta AI 助手。這批語音預計在 9 月的 Connect 大會亮相,並覆蓋 Instagram 及 Ray-Ban 智慧眼鏡等平臺。
據 The Verge 報道,OpenAI 近日向部分 ChatGPT Plus 使用者小範圍開放了高階語音模式。網路流出的實測影片顯示,它能模仿機長廣播音效、用不同方言講故事、糾正法語發音甚至唱歌。OpenAI 表示該功能將在今年秋季向所有 Plus 使用者開放。
百勝餐飲宣佈將在 2024 年底前把「Voice AI」點餐推向全美數百家 Taco Bell 得來速門店。該系統已測試約兩年,旨在減少漏單並縮短排隊時間。雖然麥當勞此前叫停了類似測試,但百勝顯然打算繼續押注。
Vimeo 推出基於生成式 AI 的影片翻譯工具,不僅能轉譯音訊和字幕,還能克隆原發言人的音色與語調。該功能支援 50 多種原語言輸入並輸出為 29 種語言,觀眾能在播放器中直接切換音軌,大幅降低了企業跨國培訓和出海營銷的本地化成本。
開發者 Avi Schiffmann 釋出 AI 伴侶硬體 Friend 的預告片並開啟預訂。這款 99 美元的項墜通過藍牙連手機全天候傾聽,主打情感陪伴而非生產力,已獲 250 萬美元融資,預計 2025 年 1 月發貨。
NVIDIA 在 SIGGRAPH 預覽了互動式數字人「James」以及 Maxine 3D 等技術。James 基於 NVIDIA ACE 與 ElevenLabs 語音打造,能帶情緒和幽默感進行即時互動。最關鍵的是,普通 2D 影片肖像現可通過 Maxine 3D 快速生成 3D 數字人化身。
週五,馬斯克在 X 上轉發了一段偽造副總統哈里斯聲音的 AI 競選惡搞影片,並配文「太讚了」。因未保留原推文中的「惡搞」免責標識,該帖被指違反 X 自身禁止誤導性合成媒體的平臺政策,引發多名官員譴責。
法國非營利 AI 實驗室 Kyutai 展出即時語音助手 Moshi 並宣佈開源。它僅由 8 人團隊耗時半年研發,端到端延遲低至 200 毫秒,支援 70 種情緒,還能在筆記本本地邊聽邊說。
ElevenLabs 推出音訊分離工具 Voice Isolator。它基於專有深度學習模型,能從雜亂環境音、交談聲或音樂中提取純淨人聲,支援 WAV、MP3 等多種格式。使用者每月可獲得 1 萬點額度,無需安裝外掛就能在瀏覽器裡直接處理。
ElevenLabs 宣佈在 Reader App 中引入朱迪·加蘭、詹姆斯·迪恩、伯特·雷諾茲等已故影星的 AI 聲音。使用者可以用加蘭的聲音聽《綠野仙蹤》,或讓勞倫斯·奧利弗爵士朗讀《福爾摩斯》。不過這些經典聲音僅限個人在 App 內流式收聽,不能匯出用於內容創作。
TIME 宣佈在 TIME.com 上線 ElevenLabs 的 Audio Native 播放器,為精選報道提供自動語音旁白。雙方從 2023 年 3 月開始接觸,現在讀者可以直接用耳朵聽新聞,無需盯屏閱讀。
Character.AI 宣佈面向全部使用者上線即時語音通話功能,支援中文、英文、日文等多種語言。使用者一鍵即可與 AI 角色雙向對話,並支援隨時打斷與文字無縫切換,適合用來練口語或模擬面試。
NBCUniversal 宣佈將在 Peacock 平臺推出「Your Daily Olympic Recap」,用 AI 克隆傳奇解說員 Al Michaels 的聲音播報定製奧運集錦。使用者輸入名字並選定偏好運動後,每天能聽到叫得出自己名字的專屬戰報。官方預計生成近 700 萬種變體,並安排人工編輯審聽防翻車。
OpenAI 宣佈原定 6 月底向少量 ChatGPT Plus 使用者推出的高階語音模式 Alpha 測試推遲一個月。官方表示需要時間提升內容攔截能力並最佳化承載架構,預計秋季向所有 Plus 使用者開放。
ElevenLabs 推出移動端 Reader App。它能把手機裡的文章、PDF、ePub 和郵件通訊轉換成高擬真的 AI 語音朗讀,支援多種音色與口音。應用已上線 iOS 和 Android,前 3 個月免費,目前僅支援英語,後續將拓展至 29 種語言。
Synthesia 推出企業級影片平臺 Synthesia 2.0。新版本不僅支援用手機或攝像頭錄製專屬數字人,並同步復刻 30 多種語言音色,還展示了今年晚些時候上線的帶手勢全身數字人。企業做培訓和演示不用再約影棚,對著攝像頭錄一段就能批次生成影片。
TikTok 推出廣告 AI 工具 Symphony 數字人分身與 AI 配音功能。該工具提供支援 30 多種語言的預製授權數字人及定製分身,配合配音可將影片轉譯為 10 多種語言。這意味著創作者和品牌無需重複實拍,就能低成本規模化出海投放。
Google DeepMind 公佈影片轉音訊(V2A)技術研究進展,能結合影片畫面與文本提示生成同步聲音。該系統基於擴散模型,無需手動對齊即可為靜音影片或老膠片搭配配樂、擬音與臺詞。不過目前口型同步等仍有侷限,模型尚未公開發布。