跳到正文
IFAI

行业动态

ChatGPT 曝私密对话泄露:用户 Prompt 竟出现在 Google 站长工具里

首次发布 传播指数 44

据报道,部分 ChatGPT 用户的私密对话泄漏到了 Google Search Console 中,内容涉及隐私情感咨询等 Prompt。研究人员推测 OpenAI 直接用原始提问抓取 Google 搜索导致泄露。OpenAI 回应称已知晓并已修复该路由故障。

ChatGPT 曝私密对话泄露:用户 Prompt 竟出现在 Google 站长工具里
图:arstechnica.com

很多人在跟 ChatGPT 倒苦水时,大概都以为那些感情纠纷和商业秘密只有自己和 AI 知道。

但这几个月,有些网站站长在查自己网站的流量时,却意外看到了陌生人极其私密的聊天记录。

泄露的地点非常不可思议:Google Search Console。这是站长们用来监控搜索流量的后台工具,正常情况下,后台只能看到网友搜索进站的几个关键词或短词组。

站长后台里,突然冒出别人的私密心事

从 9 月开始,这个工具的后台记录开始不对劲了。

一些站长发现,后台突然冒出了不少长度超过 300 个字符的奇怪查询词,点开一看,全是完完整整的用户输入内容。

有人在向聊天机器人倾诉非常隐私的感情破裂细节,有人在咨询棘手的商业机密问题。很显然,这些写下大段文字的用户,根本不知道自己的话会被公开送到陌生网站的后台。

最先捅破这件事的是分析咨询机构 Quantable 的创始人 Jason Packer,他在上个月发博文详细曝光了这一现象。

为了查明原因,Packer 联手网络优化顾问 Slobodan Manić 展开了深入测试。他们发现,这可能是有史以来第一个确凿证据,证明 OpenAI 居然直接拿着用户的真实提示词去爬取 Google 搜索。

两位调查人员认为,OpenAI 这么做可能是为了在某些情况下强行抓取 Google 不愿开放的搜索数据,以此维持聊天机器人的交互能力,结果却直接把用户的隐私卖了个干净。

OpenAI 承认漏洞,但没回答核心质疑

事情曝光后,OpenAI 拒绝向媒体确认 Packer 和 Manić 的技术推测是否属实,也没有正面回答受影响的用户范围到底有多大。

不过,OpenAI 发言人向 Ars Technica 证实,公司已经知晓并修复了一个小故障。官方给出的解释是,该故障只是暂时影响了极少数搜索查询的路由路径。

Packer 对 OpenAI 迅速修复问题的动作表示认可,但他同时指出,OpenAI 的官方回应其实在打太极。

在 Packer 看来,官方不仅没有确认是否在偷偷爬取 Google,也没有解释数据流转的底层逻辑。这种含糊其辞的表态,很难让外界确信这一隐私漏洞已经被彻底根除。

为什么重要

我们认为,这件事给所有把大模型当树洞或私人顾问的人敲响了警钟。

平时你以为打在输入框里的文字只留在自己和模型的对话流里,但只要模型触发了联网搜索,你的整段私密提问就可能被当作检索词丢到了公网,甚至原封不动记入第三方网站的日志。

如果你需要让 AI 帮忙诊断商业合同、感情危机或医疗问题,现在绝不应该把敏感细节和盘托出。在联网开关打开的情况下,任何未经脱敏的真实信息都存在外泄风险。

对行业而言,这场事故撕开了大模型联网搜索背后的技术遮羞布。大模型厂商为了让搜索回答更即时,往往需要绕过搜索引擎的常规接口限制,而直接把用户原始提示词当请求发出去,是技术实现上最粗暴、但也最偷懒的做法。

OpenAI 这次的隐患在于,它把技术实现上的偷懒变成了用户的隐私灾难。把临时路由故障当托词很容易,但只要厂商不向外界透明公开提示词在后端的转发和清洗机制,用户对 AI 隐私的信任就会继续瓦解。

来源 (1)

  1. [1]
    arstechnica.com(在新标签页打开)原文arstechnica.com

每日 AI 内容精选