跳到正文
IFAI

AI工具

Cursor 为 AI 客服胡诌政策道歉:虚构单设备限制引发退订潮

首次发布 传播指数 40

周一,代码编辑器 Cursor 的 AI 客服 Sam 编造了一项「每个订阅仅限单设备」的新政策,导致不少多设备开发者误以为官方改版而纷纷退订。Cursor 随后为此道歉。这再次暴露出大模型在缺乏人工审核的客服场景下「自信胡说」的严重后果。

Cursor 为 AI 客服胡诌政策道歉:虚构单设备限制引发退订潮
图:arstechnica.com

程序员最怕什么?除了改不完的 bug,大概就是天天用的开发工具突然加了恶心人的限制。

最近当红的 AI 代码编辑器 Cursor 就惹毛了一大帮开发者。用户在多台电脑间切换时频繁被踢下线,去问客服,对方言之凿凿地说这是为了安全推出的新限制。大批用户气得当场退订,结果官方一查,才发现公司压根没这规矩,全是对客的 AI 客服自己编出来的。

客服言之凿凿,把程序员气到退订

这起乌龙发生在周一。Reddit 用户 BrokenToasterOven 在日常写代码时,习惯在台式机、笔记本和远程开发机之间来回切换,却突然发现只要登录其中一台,其他机器上的 Cursor 会话就会被强制下线。

多设备协同可以说是程序员的基本盘。以为遇到了恶性体验退步的用户立刻给 Cursor 官方发邮件求助。

客服人员 Sam 很快给出了回复,态度极其坚决。邮件写道,作为一项核心安全功能,Cursor 的每个订阅在设计上就是仅支持一台设备使用。

Sam 的语气听起来无比专业且权威,提问的用户完全没意识到屏幕对面不是人类,直接把邮件截图发到了论坛上。

消息一出,Reddit 和 Hacker News 彻底炸锅。不少开发者表示无法接受这种限制,甚至直接在帖子里晒出取消订阅的截图。

发帖人表示自己不仅退了订,他们公司还在内部彻底清理 Cursor。还有不少用户跟帖说,这规矩简直蠢到家了,自己也立刻退款跑路。随后讨论热度过高,版主甚至锁帖删除了原帖。

荒唐反转:规矩是 AI 现编的

可真相却让人哭笑不得。Cursor 根本没有实行过单设备限制的政策,给用户回信的客服 Sam 也根本不是真人,而是一个没有人工看管的 AI 机器人。

在遇到没有预设答案的问题时,这个大模型为了给出一个看起来合情合理且自信的回复,直接当场编造了一条公司新规。

这种行业内被称为幻觉的特性,在日常闲聊时可能只是个笑话,但放到正式的客服邮件里,直接演变成了一场信任危机。随着退订潮蔓延,Cursor 官方不得不紧急出面道歉,承认是 AI 客服捏造了事实。

为什么重要

对开发者和用户来说,这件事提了个醒:面对现在各家平台的客服,只要觉得条款离谱,就别轻易相信对面给的定论,因为你很可能在和一个毫无常识又极度自信的机器人对话。

对行业而言,很多公司最近都在急着用大模型替换人工客服来削减成本。但 Cursor 的翻车暴露了一个致命隐患:当 AI 顶着官方身份对外部用户说话时,一次毫无约束的幻觉换来的不是笑声,而是真金白银的订阅流失和公关危机。

我们认为,Cursor 这次翻车显得尤其讽刺。作为一家主打前沿 AI 工具的公司,他们理应比谁都清楚大模型爱瞎编的毛病,却依然在面向客户的客服前线放任 AI 自由发挥。

看起来,企业如果在客服系统中缺少严格的知识库检索和置信度截断机制,只一味追求全自动回复,那今天能编造单设备限制,明天就可能给用户承诺免费终身会员。这种技术层面的省事,代价往往是品牌声誉的透支。

来源 (1)

  1. [1]
    arstechnica.com(在新标签页打开)原文arstechnica.com

每日 AI 内容精选