限制讽刺与论坛内容：Google 紧急修补 AI Overviews 翻车漏洞

如果你这阵子刷到过「吃多少石头才健康」或者「往披萨上抹胶水粘芝士」的截图，大概已经见识过 Google 新搜索的威力了。

两周前的 Google I/O 大会上，Google 宣布向全美所有用户上线 AI Overviews（AI 总结功能）。结果才铺开几天，社交媒体就被各种离谱搜索结果刷屏。

Google 官方发文复盘了这场风波。副总裁 Liz Reid 亲自解释了翻车原因，公布了一打技术调整，也趁机给自家喊了个冤。

为什么 AI 会劝人吃石头

Google 强调，AI Overviews 跟 ChatGPT 这种通用聊天机器人不一样。它不是纯靠模型脑补，而是把定制大模型和底层网页排名系统绑在一起，原则上只提炼排名靠前的网页信息。

翻车的主要原因，在于它碰上了所谓的数据真空（information gap）和反讽内容。比如「每天吃多少石头」，正常人从来不会搜这个词，网上自然也没有严肃的科普内容。

偏偏有一家地质软件公司的网站转载了一篇搞笑讽刺文章。系统发现全网只有这一页跟问题强相关，于是老老实实照着总结了，还煞有其事地贴上了来源链接。

另一个重灾区是论坛内容。像胶水粘披萨这种经典恶搞段子，模型根本分不清 Reddit 网友是在认真出主意还是在讲烂梗，直接把恶搞言论当成了操作指南。

Google 还特意补了一句，网上疯传的截图里有很大一部分是恶搞伪造的。比如把狗留在车里、孕妇吸烟或者抑郁自残等极端话题，Google 称系统根本没有生成过那些离谱答案。

紧急打补丁，开始主动收缩

为了挽救口碑，Google 公布了十几项技术改进，核心逻辑其实就是收缩 AI 的管辖范围。

系统现在对无厘头提问增加了识别机制，限制讽刺和幽默内容进入总结。同时，Google 大幅削减了把论坛等用户生成内容当作总结来源的权重，避免恶搞段子变成官方建议。

对于硬新闻这类对时效和准确度要求极高的话题，Google 明确表示尽量不触发 AI 总结。在健康医疗领域，也加码了更严格的触发限制。

Google 披露，在真正触发了 AI Overviews 的独立查询中，违反内容政策的案例比例低于七百万分之一。但放到每天数十亿次的庞大搜索量面前，哪怕极小的概率也会被放大成公关灾难。

为什么重要

这场风波给所有想用 AI 改造核心业务的公司提了个醒：把生成式模型直接怼在十亿级用户的入口上，代价极其高昂。

对普通用户来说，现在的 AI Overviews 体验更像是在走钢丝。如果只是查个菜谱或操作步骤，它或许能省点翻网页的时间；但涉及健康、安全或偏门冷僻的问题，大家最好还是亲自翻翻原始链接，别轻信顶部的 AI 摘要。

我们认为，Google 这次的应对暴露出一个深层隐患。大模型天然缺乏对人类幽默感、反讽和恶意梗的辨别力，当权威搜索结合了不受控的论坛语料，产物就是荒诞。

更微妙的是竞争态势。面对 Perplexity 和 OpenAI 搜索引擎传闻的步步紧逼，Google 显得过于焦躁，在技术成熟前就匆忙全面推开。现在它不得不往回撤步，增加限制、减少触发。这种退缩虽然保住了准确率底线，但也让 AI 总结的实用范围打了不小的折扣。