跳到正文
IFAI

行业动态

ElevenLabs 推出 AI 智能体保险:出错也能走理赔

首次发布 传播指数 42

ElevenLabs 宣布获得首个基于 AIUC-1 认证的 AI 语音智能体保险。该方案经过 5000 多次对抗性模拟测试,让企业能像为真人雇员投保一样,为 AI 乱说话或操作失误买单。这意味着此前卡在法律和安全担忧上的 95% 企业级 AI 试点,终于有了落地的兜底网。

ElevenLabs 推出 AI 智能体保险:出错也能走理赔
图:techcrunch.com

现在的大公司想用 AI,最大的阻力往往不是技术不行,而是法务和风控不点头。

做 AI 语音的独角兽 ElevenLabs 宣布拿到了一份特别的保单:它是全球第一家正式落地 AIUC-1 认证保险的 AI 公司。说白了,就是给自家的语音智能体买了「责任险」,如果 AI 在接电话、做客服或卖东西时胡说八道给客户提供了错误信息,企业现在可以像给人类员工买保险一样,把这笔风险转嫁给保险公司。

这家成立于 2022 年的公司如今估值已经达到 110 亿美元,年经常性收入(ARR)突破 3.3 亿美元。它旗下的 ElevenAgents 平台跑着超过 300 万个语音智能体,Cisco、Square、Revolut 和 MasterClass 都在用,甚至超过 75% 的财富 500 强企业里都有员工在用它们的技术。

先扛过五千次恶意刁难,保险公司才肯认

保险公司敢接这个单子,前提是 ElevenLabs 通过了一套极其严苛的压力测试。

承保方依据的是 The Artificial Intelligence Underwriting Company 推出的 AIUC-1 标准。这套标准由 75 位来自财富 1000 强企业的安全负责人,以及斯坦福、MITRE、云安全联盟等机构的专家共同制定。

在认证过程中,ElevenLabs 的语音系统经历了超过 5000 次对抗性模拟测试。测试内容涵盖了数据隐私、系统安全、可靠性等维度,专门模拟现实里最容易翻车的场景,比如提示词注入攻击、幻觉胡言乱语以及越权操作。

只有通过这套测试、拿到具体的风险量化指标后,主流保险机构才愿意进场,为企业客户真正写下保单。

95% 的 AI 试点,其实都死在不敢上线

大公司对这种保险的需求,比外界想象的要迫切得多。

行业数据显示,超过 95% 的企业 AI 试点项目最终都没能真正上线部署。卡住大家脖子的通常不是模型智商够不够,而是法律合规与安全漏洞:万一 AI 在电话里跟客户乱承诺折扣怎么办?万一它泄露了上一个客户的隐私怎么办?

过去,这类风险只能由采购 AI 的企业自己默默扛着,或者逼着 AI 初创公司签无限连带责任的合同,往往导致谈判直接谈崩。

有了第三方认证加保单兜底,大企业的采购和法务部门终于有了一个可以照章办事的台阶。

为什么重要

我们认为,ElevenLabs 这一步走得非常老辣,它精准切中了企业级 AI 落地最隐秘的痛点。

对于想要上马语音 AI 的企业来说,这个保险政策极大地降低了决策门槛。客服主管和产品经理终于不用再花几个月时间,去向风控部门反复证明「AI 绝对不会乱说话」,而是可以直接拿出一张保单,证明即使出了差错也有商业赔付覆盖。如果你是一家正在犹豫要不要把核心客服换成 AI 的企业,现在确实值得重新评估可行性了。

对整个 AI 行业来说,竞争的焦点正在从跑分转向防御性金融基建。过去大家比的是谁的声音更自然、延迟更低,但这些优势在保守的大企业采购流程面前往往敌不过一句「出了事谁赔」。ElevenLabs 借由 AIUC-1 认证和保险绑定,实际上给后来者抬高了准入门槛。以后谁想做大单生意,可能都得先去被五千个攻击用例虐一遍、拉上保险公司背书才行。

不过看起来隐患也并不是没有。保险能赔付直接的经济损失,却赔不了品牌声誉的砸损。如果语音 AI 在突发公共事件中说了极其离谱的话,即使保险公司全额赔偿,企业客户面对的舆论海啸依然得自己承担。但无论如何,把 AI 当成有职业风险的虚拟员工来承保,绝对是企业级智能体规模化商用的一座里程碑。

来源 (1)

  1. [1]
    prnewswire.com(在新标签页打开)原文prnewswire.com

每日 AI 内容精选