限制諷刺與論壇內容：Google 緊急修補 AI Overviews 翻車漏洞

如果你這陣子刷到過「吃多少石頭才健康」或者「往披薩上抹膠水粘芝士」的截圖，大概已經見識過 Google 新搜尋的威力了。

兩週前的 Google I/O 大會上，Google 宣佈向全美所有使用者上線 AI Overviews（AI 總結功能）。結果才鋪開幾天，社交媒體就被各種離譜搜尋結果刷屏。

Google 官方發文復盤了這場風波。副總裁 Liz Reid 親自解釋了翻車原因，公佈了一打技術調整，也趁機給自家喊了個冤。

為什麼 AI 會勸人吃石頭

Google 強調，AI Overviews 跟 ChatGPT 這種通用聊天機器人不一樣。它不是純靠模型腦補，而是把定製大模型和底層網頁排名系統綁在一起，原則上只提煉排名靠前的網頁資訊。

翻車的主要原因，在於它碰上了所謂的資料真空（information gap）和反諷內容。比如「每天吃多少石頭」，正常人從來不會搜這個詞，網上自然也沒有嚴肅的科普內容。

偏偏有一家地質軟體公司的網站轉載了一篇搞笑諷刺文章。系統發現全網只有這一頁跟問題強相關，於是老老實實照著總結了，還煞有其事地貼上了來源連結。

另一個重災區是論壇內容。像膠水粘披薩這種經典惡搞段子，模型根本分不清 Reddit 網友是在認真出主意還是在講爛梗，直接把惡搞言論當成了操作指南。

Google 還特意補了一句，網上瘋傳的截圖裡有很大一部分是惡搞偽造的。比如把狗留在車裡、孕婦吸菸或者抑鬱自殘等極端話題，Google 稱系統根本沒有生成過那些離譜答案。

緊急打補丁，開始主動收縮

為了挽救口碑，Google 公佈了十幾項技術改進，核心邏輯其實就是收縮 AI 的管轄範圍。

系統現在對無厘頭提問增加了識別機制，限制諷刺和幽默內容進入總結。同時，Google 大幅削減了把論壇等使用者生成內容當作總結來源的權重，避免惡搞段子變成官方建議。

對於硬新聞這類對時效和準確度要求極高的話題，Google 明確表示儘量不觸發 AI 總結。在健康醫療領域，也加碼了更嚴格的觸發限制。

Google 披露，在真正觸發了 AI Overviews 的獨立查詢中，違反內容政策的案例比例低於七百萬分之一。但放到每天數十億次的龐大搜索量面前，哪怕極小的機率也會被放大成公關災難。

為什麼重要

這場風波給所有想用 AI 改造核心業務的公司提了個醒：把生成式模型直接懟在十億級使用者的入口上，代價極其高昂。

對普通使用者來說，現在的 AI Overviews 體驗更像是在走鋼絲。如果只是查個菜譜或操作步驟，它或許能省點翻網頁的時間；但涉及健康、安全或偏門冷僻的問題，大家最好還是親自翻翻原始連結，別輕信頂部的 AI 摘要。

我們認為，Google 這次的應對暴露出一個深層隱患。大模型天然缺乏對人類幽默感、反諷和惡意梗的辨別力，當權威搜尋結合了不受控的論壇語料，產物就是荒誕。

更微妙的是競爭態勢。面對 Perplexity 和 OpenAI 搜尋引擎傳聞的步步緊逼，Google 顯得過於焦躁，在技術成熟前就匆忙全面推開。現在它不得不往回撤步，增加限制、減少觸發。這種退縮雖然保住了準確率底線，但也讓 AI 總結的實用範圍打了不小的折扣。