衛報測試發現:OpenAI GPT-5.2 在爭議話題上引用了馬斯克的 Grokipedia
據《衛報》報道,OpenAI 的 GPT-5.2 在回答伊朗和大屠殺等爭議話題時,直接引用了 xAI 的 AI 百科 Grokipedia。問題是 Grokipedia 此前曾因引用新納粹論壇而飽受爭議。對此 OpenAI 回應稱模型會檢索廣泛公開來源,並配備了安全過濾機制。

我們最擔心的「AI 吃 AI 排洩物」現象,好像真的發生在了頂級大模型身上。
OpenAI 在 12 月釋出 GPT-5.2 時,給它的定位相當高,稱其為處理專業工作最先進的前沿模型,專門用來做複雜表格和嚴肅任務。但根據英國《衛報》的一項測試,這個被寄予厚望的專業模型在查閱特定爭議話題時,竟然直接把馬斯克旗下 xAI 做的 AI 百科 Grokipedia 當成了論據來源。
碰到敏感歷史,它去扒了馬斯克的 AI 百科
《衛報》在測試中發現,當被問到一些具體且具有爭議性的話題時,GPT-5.2 會引用 Grokipedia 的內容。
比如在回答伊朗政府與電信運營商 MTN-Irancell 之間關聯的主題時,ChatGPT 的參考來源裡就赫然出現了 Grokipedia。另一個例子涉及英國曆史學家理查德·埃文斯,他在當年著名的大屠殺否認者戴維·歐文誹謗案中曾擔任專家證人,GPT-5.2 在回答相關提問時同樣援引了 Grokipedia。
不過《衛報》也注意到,GPT-5.2 並非無腦採用這個信源。在面對另一些爭議提問時,比如針對唐納德·特朗普的媒體偏見問題,ChatGPT 就沒有引用 Grokipedia。
問題在於,Grokipedia 本身在業內的口碑非常微妙。這個由 xAI 支援的 AI 生成線上百科雖然推出時間更早,但此前就因為被發現引用新納粹論壇而鬧得沸沸揚揚。美國研究人員釋出的一項研究也直接指出,該百科頻繁引用大量可疑且成問題的來源。
面對質疑,OpenAI 向《衛報》解釋稱,GPT-5.2 會在網路上檢索廣泛的公開來源和觀點,但同時會部署安全過濾器,以降低呈現與高嚴重性危害相關連結的風險。
為什麼重要
在很多人的設想中,AI 檢索聯網內容能讓回答更客觀,但現實往往正相反。我們認為,這次事件暴露出的核心隱患在於網路資料的「近親繁殖」。隨著各家廠商都在向網際網路傾倒 AI 生成的百科和文章,連 OpenAI 這種級別的搜尋代理,也開始把另一家模型的生成物當成了客觀事實。
對於打算拿 GPT-5.2 處理嚴肅工作、學術檢索或盡職調查的使用者來說,現在必須保持十二分警惕。哪怕它號稱是專業模型,只要底層的聯網搜尋沒有對生成式百科做信源降權,你就隨時可能在報告裡引用到未經驗證的二手幻覺。
從 OpenAI 的應對來看,他們現在的邏輯依然是兜底嚴重的違法有害內容,而不是保證信源的權威性。但在專業領域,平庸的錯誤和惡意的危害同樣致命。如果各家大模型在聯網檢索時還不學會主動避開同行排出的廢料,所謂的專業級 AI 助手,遲早會被網際網路上的合成垃圾徹底淹沒。
來源 (1)
- engadget.com(在新分頁開啟)原文engadget.com