跳到正文
IFAI

AI工具

ElevenLabs 推出對話式 AI 平臺:打造支援即時打斷的語音智慧體

首次發布 傳播指數 40

ElevenLabs 推出 Conversational AI 平臺,讓開發者快速構建互動式語音智慧體。它將文本轉語音、語音識別與自選大模型打通,藉助即時預測模型優雅處理插話打斷與輪候。平臺還原生整合 Twilio 電話接入,並提供多語言 SDK。

圖:elevenlabs.io

給 AI 裝上一副好嗓子不難,難的是讓它在跟你打電話時不搶話、不發呆。

以 AI 語音克隆出名的 ElevenLabs 正式推出了 Conversational AI 平臺。說白了,他們不再只做單純的聲音生成,而是搭了一套全包式的底層平臺,讓開發者能直接做出能聽、能想、能開口聊天的語音 Agent。

解決打斷和搶話的尷尬

玩過語音對話的人都知道,最讓人出戲的不是聲音假,而是你剛想插句話,對面還在機械地讀長文;或者你停下來喘口氣,AI 就以為你說完了開始搶話。

ElevenLabs 這次把精力放在了輪次切換和打斷邏輯上。他們用了一個即時預測模型來判斷說話人到底有沒有講完,這樣使用者隨時打斷,AI 就能立刻停下來聽,整體互動更接近真人在聊天。

為了壓低延遲,他們減少了不必要的伺服器呼叫。整個方案把 ElevenLabs 自己的高擬真 TTS、語音轉文字 STT、使用者自選的 LLM 以及打斷邏輯打通,開發者不需要自己到處拼湊各個服務了。

在這個架構下,開發者只需要準備自己的知識庫、系統提示詞,連上函式呼叫,再在聲音庫裡選個音色或者克隆自己的聲音就行。

為了方便落地,平臺自帶了 Twilio 的原生整合,方便直接拿來做電話呼叫;同時支援服務端和客戶端的工具呼叫,還有動態提示詞功能。開發工具方面給了 Python、JavaScript、React 和 Swift 的 SDK,想深度定製也可以直接走 WebSocket API,甚至換上自己私有部署的 LLM 和伺服器。

另外,他們還針對初創團隊搞了個免費資助計劃。

為什麼重要

做語音客服或電話機器人的團隊,以前最痛苦的就是把 STT、大模型和 TTS 三樣東西串起來。鏈路越長,延遲越高,打斷和停頓的體驗往往一團糟。ElevenLabs 這一步把髒活累活全包了,如果你想做一個日程助理、外呼銷售、遊戲 NPC 或者 AI 家教,現在幾乎是開箱即用,門檻被拉低了一大截。

我們認為,ElevenLabs 的策略非常聰明。單純賣 TTS 很容易變成被大廠價格戰卷死的大宗商品,而做對話 Agent 平臺直接把使用場景從單向配音拉到了即時互動,不僅鎖定了高頻呼叫,還順手切入了企業服務市場。

但隱患依然存在。即時語音通話對延遲和穩定性的容忍度極低,一旦網路稍有波動或者模型幻覺,在電話裡就會非常明顯。而且在電話營銷這種敏感場景下,過於逼真的聲音如果缺乏標識,很容易招來濫用質疑和監管風險。但無論如何,語音 Agent 的開發門檻,看起來已經被實質性打下來了。

來源 (1)

  1. [1]
    elevenlabs.io(在新分頁開啟)原文elevenlabs.io

話題追蹤ElevenLabs 對話式 AI 平臺開發

這個話題的歷次新聞,最新的在上面。

  1. ElevenLabs 推出對話式 AI 平臺:打造支援即時打斷的語音智慧體本則
  2. ElevenLabs 推出對話式 AI 構建平臺:可自由切換 GPT 與 Claude

每日 AI 內容精選