ChatGPT 誣稱無辜男子殺害親子：OpenAI 在歐洲再遭隱私投訴

好奇心有時候真會害死人，特別是當你只是想搜搜看 AI 眼裡的自己是什麼樣子。

一名叫 Arve Hjalmar Holmen 的挪威男子輸入自己的名字，想看看 ChatGPT 怎麼介紹他。結果螢幕上跳出來的回答讓他當場傻眼：ChatGPT 稱他是一名被判刑的殺人犯，殘忍殺害了自己兩名親生骨肉，還企圖謀殺第三個孩子，目前正在挪威監獄裡服 21 年刑期。

最讓人不寒而慄的是，這段輸出並不是一眼假的胡話。ChatGPT 精準說出了他的真實家鄉，甚至準確說對了他有幾個孩子以及孩子們的性別。但它把這些真實的個人隱私，和憑空捏造的弒子重罪嚴絲合縫地縫合在了一起。

掛個免責小字，就算負責了嗎

憤怒的 Holmen 沒有選擇忍氣吞聲。奧地利知名隱私維權機構 Noyb 已經代表他，正式向挪威資料保護局（Datatilsynet）遞交了隱私投訴，指控 OpenAI 嚴重違反了歐盟的《通用資料保護條例》（GDPR）。

Noyb 要求監管機構對 OpenAI 處以罰款，強制其刪除這一誹謗性內容，並從技術底層改進模型，避免再犯同類低階錯誤。

Noyb 的資料保護律師 Joakim Söderberg 話講得很直接：GDPR 的規定黑紙白字非常明確，個人資料必須保證準確性。如果出了錯，當事人有權要求更正，以反映真實情況。

在 Joakim Söderberg 看來，OpenAI 試圖通過在頁面底部放一行「ChatGPT 可能會犯錯」的蚊子腿免責宣告來脫身，顯然站不住腳。你不能一邊散播毀滅性的虛假指控，一邊在文末輕飄飄加句免責宣告，就當無事發生。

根據公開資訊，Holmen 當初查詢的具體時間在公開的投訴檔案中被塗黑遮蓋了，但 Noyb 透露這發生在 ChatGPT 正式引入聯網搜尋功能之前。戲劇性的是，如果你現在在 ChatGPT 裡輸入相同的查詢，AI 吐出來的結果已經全變成了各大媒體對這起投訴的報道。

這也是 Noyb 第二次向 ChatGPT 開火。上一次是在 2024 年 4 月，當時 Noyb 代表一位公眾人物提起投訴，起因是 ChatGPT 搞錯了對方的出生日期。當時 OpenAI 辯解稱，模型內部的錯誤資料根本無法直接修改，他們能做的只是在使用者輸入特定查詢時進行關鍵詞攔截圖蔽。Noyb 認為這種打補丁的做法完全不合規，因為 GDPR 明確要求不準確的資料必須被毫不拖延地刪除或更正。

為什麼重要

我們認為，這起訴訟踩中了現代大語言模型最致命的技術軟肋：機率生成機制與資料保護法之間的根本性衝突。

對於普通人來說，被大模型隨口造謠的維權門檻極其高昂。如果 AI 只是說錯了一個名人的生日，可能只是個談資；但當它把你真實的家屬資訊與虛構的弒子慘案混在一起時，對普通人現實生活的破壞力是毀滅性的。周圍的人可能根本分不清哪些是真、哪些是假，而受害者卻要耗費巨大精力去自證清白。

從法律和行業層面看，OpenAI 的免責宣告護身符看起來正在失效。大模型背後的原理是基於機率預測下一個 token，它本質上根本沒有事實和真偽的概念。這就導致它天生無法保證輸出內容的絕對真實，而且一旦模型完成訓練，權重已經固定，開發者確實很難精準定位並摳除某一條特定的錯誤記憶，只能在最外層加過濾詞。

但這套技術解釋在嚴格的 GDPR 面前很難過關。監管機構不會因為你的技術架構特殊就網開一面。如果挪威和歐盟監管方最終認定僅靠關鍵詞遮蔽不符合 GDPR 的更正權要求，OpenAI 等一眾大模型廠商將面臨兩難困境：要麼花重金重訓模型或徹底改變架構，要麼可能在歐洲市場面臨鉅額罰單甚至區域性禁令。科技巨頭們依靠一句可能會犯錯就免除一切法律責任的時代，恐怕快要結束了。