卫报测试发现:OpenAI GPT-5.2 在争议话题上引用了马斯克的 Grokipedia
据《卫报》报道,OpenAI 的 GPT-5.2 在回答伊朗和大屠杀等争议话题时,直接引用了 xAI 的 AI 百科 Grokipedia。问题是 Grokipedia 此前曾因引用新纳粹论坛而饱受争议。对此 OpenAI 回应称模型会检索广泛公开来源,并配备了安全过滤机制。

我们最担心的「AI 吃 AI 排泄物」现象,好像真的发生在了顶级大模型身上。
OpenAI 在 12 月发布 GPT-5.2 时,给它的定位相当高,称其为处理专业工作最先进的前沿模型,专门用来做复杂表格和严肃任务。但根据英国《卫报》的一项测试,这个被寄予厚望的专业模型在查阅特定争议话题时,竟然直接把马斯克旗下 xAI 做的 AI 百科 Grokipedia 当成了论据来源。
碰到敏感历史,它去扒了马斯克的 AI 百科
《卫报》在测试中发现,当被问到一些具体且具有争议性的话题时,GPT-5.2 会引用 Grokipedia 的内容。
比如在回答伊朗政府与电信运营商 MTN-Irancell 之间关联的主题时,ChatGPT 的参考来源里就赫然出现了 Grokipedia。另一个例子涉及英国历史学家理查德·埃文斯,他在当年著名的大屠杀否认者戴维·欧文诽谤案中曾担任专家证人,GPT-5.2 在回答相关提问时同样援引了 Grokipedia。
不过《卫报》也注意到,GPT-5.2 并非无脑采用这个信源。在面对另一些争议提问时,比如针对唐纳德·特朗普的媒体偏见问题,ChatGPT 就没有引用 Grokipedia。
问题在于,Grokipedia 本身在业内的口碑非常微妙。这个由 xAI 支持的 AI 生成在线百科虽然推出时间更早,但此前就因为被发现引用新纳粹论坛而闹得沸沸扬扬。美国研究人员发布的一项研究也直接指出,该百科频繁引用大量可疑且成问题的来源。
面对质疑,OpenAI 向《卫报》解释称,GPT-5.2 会在网络上检索广泛的公开来源和观点,但同时会部署安全过滤器,以降低呈现与高严重性危害相关链接的风险。
为什么重要
在很多人的设想中,AI 检索联网内容能让回答更客观,但现实往往正相反。我们认为,这次事件暴露出的核心隐患在于网络数据的「近亲繁殖」。随着各家厂商都在向互联网倾倒 AI 生成的百科和文章,连 OpenAI 这种级别的搜索代理,也开始把另一家模型的生成物当成了客观事实。
对于打算拿 GPT-5.2 处理严肃工作、学术检索或尽职调查的用户来说,现在必须保持十二分警惕。哪怕它号称是专业模型,只要底层的联网搜索没有对生成式百科做信源降权,你就随时可能在报告里引用到未经验证的二手幻觉。
从 OpenAI 的应对来看,他们现在的逻辑依然是兜底严重的违法有害内容,而不是保证信源的权威性。但在专业领域,平庸的错误和恶意的危害同样致命。如果各家大模型在联网检索时还不学会主动避开同行排出的废料,所谓的专业级 AI 助手,迟早会被互联网上的合成垃圾彻底淹没。
来源 (1)
- engadget.com(在新标签页打开)原文engadget.com