Reddit 網友聯手放假訊息:用虛假推薦反制 Google AI 抓取
倫敦 Reddit 使用者故意在社群釋出虛假餐廳推薦,以防心儀地點被網紅打擾,結果直接帶偏了 Google AI Overviews 的搜尋摘要。這也暴露出 Google 每年斥資 6000 萬美元抓取論壇內容充當 AI 事實來源的固有漏洞。

為了不讓心儀的寶藏餐館被遊客和網紅擠爆,倫敦的吃貨們最近在 Reddit 上幹了一件損事:故意發一堆假推薦。
他們把難吃的連鎖店吹成絕世美味,或者把毫無特色的地方編成當地秘密基地。這一招本意是糊弄遊客,結果先把 Google 的 AI 搜尋給坑了。
聰明的搜尋技巧成了投毒通道
事情要從近幾年 Google 搜尋質量下滑說起。
因為搜尋結果裡充斥著 SEO 刷榜垃圾和 AI 批次生成的爛文章,越來越多人在搜尋時習慣在後面加上「site:reddit.com」,試圖繞過營銷號,直接找真人寫的心得。
Google 顯然也看到了 Reddit 的價值。據報道,Google 每年向 Reddit 支付高達 6000 萬美元,用於購買內容資料來訓練 AI 模型。
今年 5 月,Google 在美國正式上線了 AI Overviews。這個功能會直接在搜尋結果最頂端生成一段 AI 摘要,幫使用者省去點選網頁的麻煩。
Google 搜尋副總裁兼負責人 Liz Reid 當時在一篇部落格中表示,AI Overviews 的設計原則是隻展示那些「有頂級搜尋結果支援」的資訊。
但問題恰恰出在這裡。當倫敦網友開始在 Reddit 上互相打掩護、集體刷假評價時,Google 的抓取演算法根本分不清什麼是當地人的反諷,什麼是真實客觀的評價。
Ars Technica 記者 Benj Edwards 此前就指出,這種設計建立在一個錯誤的假設上,那就是預設 Google 的排名演算法更青睞真實準確的結果,而不是被 SEO 或群體行為操控的垃圾。
為什麼重要
在很多普通使用者看來,加個 Reddit 字尾找真實經驗曾經是最管用的小竅門,但現在這條捷徑正在迅速失效。
我們認為,這件事生動揭示了當下 AI 搜尋引擎最尷尬的死穴:AI 本身沒有辨別真偽的感官,它只能把網上的文本進行機率重組。
當搜尋引擎把原本用來交流生活、充滿黑話和反諷的社群當作權威資料庫抓取時,任何一次使用者群體的惡作劇,都會被 AI 當成標準答案放大給全世界。
對 Google 而言,每年花 6000 萬美元買來的資料來源,看起來正變成一顆隨時可能炸響的地雷。它不僅沒能解決資訊汙染,反而讓虛假資訊藉著 AI 摘要的權威外衣更難被識破。
如果技術巨頭們找不出理解語境和人類動機的辦法,單靠不斷抓取社交網路文字來拼湊答案,那麼未來的 AI 搜尋結果只會變得越來越不可信。
來源 (1)
- arstechnica.com(在新分頁開啟)原文arstechnica.com