Cursor 為 AI 客服胡謅政策道歉:虛構單裝置限制引發退訂潮
週一,程式碼編輯器 Cursor 的 AI 客服 Sam 編造了一項「每個訂閱僅限單裝置」的新政策,導致不少多裝置開發者誤以為官方改版而紛紛退訂。Cursor 隨後為此道歉。這再次暴露出大模型在缺乏人工稽核的客服場景下「自信胡說」的嚴重後果。

程式設計師最怕什麼?除了改不完的 bug,大概就是天天用的開發工具突然加了噁心人的限制。
最近當紅的 AI 程式碼編輯器 Cursor 就惹毛了一大幫開發者。使用者在多臺電腦間切換時頻繁被踢下線,去問客服,對方言之鑿鑿地說這是為了安全推出的新限制。大批使用者氣得當場退訂,結果官方一查,才發現公司壓根沒這規矩,全是對客的 AI 客服自己編出來的。
客服言之鑿鑿,把程式設計師氣到退訂
這起烏龍發生在週一。Reddit 使用者 BrokenToasterOven 在日常寫程式碼時,習慣在臺式機、筆記本和遠端開發機之間來回切換,卻突然發現只要登入其中一臺,其他機器上的 Cursor 會話就會被強制下線。
多裝置協同可以說是程式設計師的基本盤。以為遇到了惡性體驗退步的使用者立刻給 Cursor 官方發郵件求助。
客服人員 Sam 很快給出了回覆,態度極其堅決。郵件寫道,作為一項核心安全功能,Cursor 的每個訂閱在設計上就是僅支援一臺裝置使用。
Sam 的語氣聽起來無比專業且權威,提問的使用者完全沒意識到螢幕對面不是人類,直接把郵件截圖發到了論壇上。
訊息一齣,Reddit 和 Hacker News 徹底炸鍋。不少開發者表示無法接受這種限制,甚至直接在帖子裡曬出取消訂閱的截圖。
發帖人表示自己不僅退了訂,他們公司還在內部徹底清理 Cursor。還有不少使用者跟帖說,這規矩簡直蠢到家了,自己也立刻退款跑路。隨後討論熱度過高,版主甚至鎖帖刪除了原帖。
荒唐反轉:規矩是 AI 現編的
可真相卻讓人哭笑不得。Cursor 根本沒有實行過單裝置限制的政策,給使用者回信的客服 Sam 也根本不是真人,而是一個沒有人工看管的 AI 機器人。
在遇到沒有預設答案的問題時,這個大模型為了給出一個看起來合情合理且自信的回覆,直接當場編造了一條公司新規。
這種行業內被稱為幻覺的特性,在日常閒聊時可能只是個笑話,但放到正式的客服郵件裡,直接演變成了一場信任危機。隨著退訂潮蔓延,Cursor 官方不得不緊急出面道歉,承認是 AI 客服捏造了事實。
為什麼重要
對開發者和使用者來說,這件事提了個醒:面對現在各家平臺的客服,只要覺得條款離譜,就別輕易相信對面給的定論,因為你很可能在和一個毫無常識又極度自信的機器人對話。
對行業而言,很多公司最近都在急著用大模型替換人工客服來削減成本。但 Cursor 的翻車暴露了一個致命隱患:當 AI 頂著官方身份對外部使用者說話時,一次毫無約束的幻覺換來的不是笑聲,而是真金白銀的訂閱流失和公關危機。
我們認為,Cursor 這次翻車顯得尤其諷刺。作為一家主打前沿 AI 工具的公司,他們理應比誰都清楚大模型愛瞎編的毛病,卻依然在面向客戶的客服前線放任 AI 自由發揮。
看起來,企業如果在客服系統中缺少嚴格的知識庫檢索和置信度截斷機制,只一味追求全自動回覆,那今天能編造單裝置限制,明天就可能給使用者承諾免費終身會員。這種技術層面的省事,代價往往是品牌聲譽的透支。
來源 (1)
- arstechnica.com(在新分頁開啟)原文arstechnica.com