跳到正文
IFAI

AI工具

ElevenLabs 推出对话式 AI 平台:打造支持实时打断的语音智能体

首次发布 传播指数 40

ElevenLabs 推出 Conversational AI 平台,让开发者快速构建交互式语音智能体。它将文本转语音、语音识别与自选大模型打通,借助实时预测模型优雅处理插话打断与轮候。平台还原生集成 Twilio 电话接入,并提供多语言 SDK。

图:elevenlabs.io

给 AI 装上一副好嗓子不难,难的是让它在跟你打电话时不抢话、不发呆。

以 AI 语音克隆出名的 ElevenLabs 正式推出了 Conversational AI 平台。说白了,他们不再只做单纯的声音生成,而是搭了一套全包式的底层平台,让开发者能直接做出能听、能想、能开口聊天的语音 Agent。

解决打断和抢话的尴尬

玩过语音对话的人都知道,最让人出戏的不是声音假,而是你刚想插句话,对面还在机械地读长文;或者你停下来喘口气,AI 就以为你说完了开始抢话。

ElevenLabs 这次把精力放在了轮次切换和打断逻辑上。他们用了一个实时预测模型来判断说话人到底有没有讲完,这样用户随时打断,AI 就能立刻停下来听,整体交互更接近真人在聊天。

为了压低延迟,他们减少了不必要的服务器调用。整个方案把 ElevenLabs 自己的高拟真 TTS、语音转文字 STT、用户自选的 LLM 以及打断逻辑打通,开发者不需要自己到处拼凑各个服务了。

在这个架构下,开发者只需要准备自己的知识库、系统提示词,连上函数调用,再在声音库里选个音色或者克隆自己的声音就行。

为了方便落地,平台自带了 Twilio 的原生集成,方便直接拿来做电话呼叫;同时支持服务端和客户端的工具调用,还有动态提示词功能。开发工具方面给了 Python、JavaScript、React 和 Swift 的 SDK,想深度定制也可以直接走 WebSocket API,甚至换上自己私有部署的 LLM 和服务器。

另外,他们还针对初创团队搞了个免费资助计划。

为什么重要

做语音客服或电话机器人的团队,以前最痛苦的就是把 STT、大模型和 TTS 三样东西串起来。链路越长,延迟越高,打断和停顿的体验往往一团糟。ElevenLabs 这一步把脏活累活全包了,如果你想做一个日程助理、外呼销售、游戏 NPC 或者 AI 家教,现在几乎是开箱即用,门槛被拉低了一大截。

我们认为,ElevenLabs 的策略非常聪明。单纯卖 TTS 很容易变成被大厂价格战卷死的大宗商品,而做对话 Agent 平台直接把使用场景从单向配音拉到了实时交互,不仅锁定了高频调用,还顺手切入了企业服务市场。

但隐患依然存在。实时语音通话对延迟和稳定性的容忍度极低,一旦网络稍有波动或者模型幻觉,在电话里就会非常明显。而且在电话营销这种敏感场景下,过于逼真的声音如果缺乏标识,很容易招来滥用质疑和监管风险。但无论如何,语音 Agent 的开发门槛,看起来已经被实质性打下来了。

来源 (1)

  1. [1]
    elevenlabs.io(在新标签页打开)原文elevenlabs.io

话题追踪ElevenLabs 对话式 AI 平台开发

这个话题的历次新闻,最新的在上面。

  1. ElevenLabs 推出对话式 AI 平台:打造支持实时打断的语音智能体本条
  2. ElevenLabs 推出对话式 AI 构建平台:可自由切换 GPT 与 Claude

每日 AI 内容精选