ChatGPT 诬称无辜男子杀害亲子：OpenAI 在欧洲再遭隐私投诉

好奇心有时候真会害死人，特别是当你只是想搜搜看 AI 眼里的自己是什么样子。

一名叫 Arve Hjalmar Holmen 的挪威男子输入自己的名字，想看看 ChatGPT 怎么介绍他。结果屏幕上跳出来的回答让他当场傻眼：ChatGPT 称他是一名被判刑的杀人犯，残忍杀害了自己两名亲生骨肉，还企图谋杀第三个孩子，目前正在挪威监狱里服 21 年刑期。

最让人不寒而栗的是，这段输出并不是一眼假的胡话。ChatGPT 精准说出了他的真实家乡，甚至准确说对了他有几个孩子以及孩子们的性别。但它把这些真实的个人隐私，和凭空捏造的弑子重罪严丝合缝地缝合在了一起。

挂个免责小字，就算负责了吗

愤怒的 Holmen 没有选择忍气吞声。奥地利知名隐私维权机构 Noyb 已经代表他，正式向挪威数据保护局（Datatilsynet）递交了隐私投诉，指控 OpenAI 严重违反了欧盟的《通用数据保护条例》（GDPR）。

Noyb 要求监管机构对 OpenAI 处以罚款，强制其删除这一诽谤性内容，并从技术底层改进模型，避免再犯同类低级错误。

Noyb 的数据保护律师 Joakim Söderberg 话讲得很直接：GDPR 的规定黑纸白字非常明确，个人数据必须保证准确性。如果出了错，当事人有权要求更正，以反映真实情况。

在 Joakim Söderberg 看来，OpenAI 试图通过在页面底部放一行「ChatGPT 可能会犯错」的蚊子腿免责声明来脱身，显然站不住脚。你不能一边散播毁灭性的虚假指控，一边在文末轻飘飘加句免责声明，就当无事发生。

根据公开信息，Holmen 当初查询的具体时间在公开的投诉文件中被涂黑遮盖了，但 Noyb 透露这发生在 ChatGPT 正式引入联网搜索功能之前。戏剧性的是，如果你现在在 ChatGPT 里输入相同的查询，AI 吐出来的结果已经全变成了各大媒体对这起投诉的报道。

这也是 Noyb 第二次向 ChatGPT 开火。上一次是在 2024 年 4 月，当时 Noyb 代表一位公众人物提起投诉，起因是 ChatGPT 搞错了对方的出生日期。当时 OpenAI 辩解称，模型内部的错误数据根本无法直接修改，他们能做的只是在用户输入特定查询时进行关键词拦截屏蔽。Noyb 认为这种打补丁的做法完全不合规，因为 GDPR 明确要求不准确的数据必须被毫不拖延地删除或更正。

为什么重要

我们认为，这起诉讼踩中了现代大语言模型最致命的技术软肋：概率生成机制与数据保护法之间的根本性冲突。

对于普通人来说，被大模型随口造谣的维权门槛极其高昂。如果 AI 只是说错了一个名人的生日，可能只是个谈资；但当它把你真实的家属信息与虚构的弑子惨案混在一起时，对普通人现实生活的破坏力是毁灭性的。周围的人可能根本分不清哪些是真、哪些是假，而受害者却要耗费巨大精力去自证清白。

从法律和行业层面看，OpenAI 的免责声明护身符看起来正在失效。大模型背后的原理是基于概率预测下一个 token，它本质上根本没有事实和真伪的概念。这就导致它天生无法保证输出内容的绝对真实，而且一旦模型完成训练，权重已经固定，开发者确实很难精准定位并抠除某一条特定的错误记忆，只能在最外层加过滤词。

但这套技术解释在严格的 GDPR 面前很难过关。监管机构不会因为你的技术架构特殊就网开一面。如果挪威和欧盟监管方最终认定仅靠关键词屏蔽不符合 GDPR 的更正权要求，OpenAI 等一众大模型厂商将面临两难困境：要么花重金重训模型或彻底改变架构，要么可能在欧洲市场面临巨额罚单甚至局部禁令。科技巨头们依靠一句可能会犯错就免除一切法律责任的时代，恐怕快要结束了。