跳到正文
IFAI

產業動態

ChatGPT 曝私密對話洩露:使用者 Prompt 竟出現在 Google 站長工具裡

首次發布 傳播指數 44

據報道,部分 ChatGPT 使用者的私密對話洩漏到了 Google Search Console 中,內容涉及隱私情感諮詢等 Prompt。研究人員推測 OpenAI 直接用原始提問抓取 Google 搜尋導致洩露。OpenAI 回應稱已知曉並已修復該路由故障。

ChatGPT 曝私密對話洩露:使用者 Prompt 竟出現在 Google 站長工具裡
圖:arstechnica.com

很多人在跟 ChatGPT 倒苦水時,大概都以為那些感情糾紛和商業秘密只有自己和 AI 知道。

但這幾個月,有些網站站長在查自己網站的流量時,卻意外看到了陌生人極其私密的聊天記錄。

洩露的地點非常不可思議:Google Search Console。這是站長們用來監控搜尋流量的後臺工具,正常情況下,後臺只能看到網友搜尋進站的幾個關鍵詞或短片語。

站長後臺裡,突然冒出別人的私密心事

從 9 月開始,這個工具的後臺記錄開始不對勁了。

一些站長髮現,後臺突然冒出了不少長度超過 300 個字元的奇怪查詢詞,點開一看,全是完完整整的使用者輸入內容。

有人在向聊天機器人傾訴非常隱私的感情破裂細節,有人在諮詢棘手的商業機密問題。很顯然,這些寫下大段文字的使用者,根本不知道自己的話會被公開送到陌生網站的後臺。

最先捅破這件事的是分析諮詢機構 Quantable 的創始人 Jason Packer,他在上個月發博文詳細曝光了這一現象。

為了查明原因,Packer 聯手網路最佳化顧問 Slobodan Manić 展開了深入測試。他們發現,這可能是有史以來第一個確鑿證據,證明 OpenAI 居然直接拿著使用者的真實提示詞去爬取 Google 搜尋。

兩位調查人員認為,OpenAI 這麼做可能是為了在某些情況下強行抓取 Google 不願開放的搜尋資料,以此維持聊天機器人的互動能力,結果卻直接把使用者的隱私賣了個乾淨。

OpenAI 承認漏洞,但沒回答核心質疑

事情曝光後,OpenAI 拒絕向媒體確認 Packer 和 Manić 的技術推測是否屬實,也沒有正面回答受影響的使用者範圍到底有多大。

不過,OpenAI 發言人向 Ars Technica 證實,公司已經知曉並修復了一個小故障。官方給出的解釋是,該故障只是暫時影響了極少數搜尋查詢的路由路徑。

Packer 對 OpenAI 迅速修復問題的動作表示認可,但他同時指出,OpenAI 的官方回應其實在打太極。

在 Packer 看來,官方不僅沒有確認是否在偷偷爬取 Google,也沒有解釋資料流轉的底層邏輯。這種含糊其辭的表態,很難讓外界確信這一隱私漏洞已經被徹底根除。

為什麼重要

我們認為,這件事給所有把大模型當樹洞或私人顧問的人敲響了警鐘。

平時你以為打在輸入框裡的文字只留在自己和模型的對話流裡,但只要模型觸發了聯網搜尋,你的整段私密提問就可能被當作檢索詞丟到了公網,甚至原封不動記入第三方網站的日誌。

如果你需要讓 AI 幫忙診斷商業合同、感情危機或醫療問題,現在絕不應該把敏感細節和盤托出。在聯網開關開啟的情況下,任何未經脫敏的真實資訊都存在外洩風險。

對行業而言,這場事故撕開了大模型聯網搜尋背後的技術遮羞布。大模型廠商為了讓搜尋回答更即時,往往需要繞過搜尋引擎的常規介面限制,而直接把使用者原始提示詞當請求發出去,是技術實現上最粗暴、但也最偷懶的做法。

OpenAI 這次的隱患在於,它把技術實現上的偷懶變成了使用者的隱私災難。把臨時路由故障當託詞很容易,但只要廠商不向外界透明公開提示詞在後端的轉發和清洗機制,使用者對 AI 隱私的信任就會繼續瓦解。

來源 (1)

  1. [1]
    arstechnica.com(在新分頁開啟)原文arstechnica.com

每日 AI 內容精選