Google 研究员发论文自揭短处：生成式 AI 正在用虚假垃圾污染互联网

Google 的产品部门还在变着法子把生成式 AI 塞进搜索框和各个角落，自家的研究人员却在背后泼了一盆冷水。

外媒 404 Media 发现，几位 Google 研究员最近发了一篇尚未经过同行评审的预印本论文。论文的核心结论相当不客气：生成式 AI 正在用海量的虚假垃圾内容，迅速毁掉互联网的大片领地。

造假门槛归零，造假成了主流用法

研究团队梳理了先前的学术研究，并详细复盘了约 200 起公开报道的生成式 AI 滥用案例。

他们发现，现实中最普遍的滥用手段主要集中在两点：操纵真实人物肖像，以及伪造关键证据。

大部分操作都有极其明确的动机，要么是为了操纵公众舆论，要么是用来设局诈骗，再不然就是纯粹为了流量变现。

让情况雪上加霜的是工具门槛的暴跌。研究人员指出，现在的生成式 AI 越来越强大，但对使用者的技术要求却几乎降到了零。

任何人只要随手打几个提示词，就能批量制造以假乱真的图文甚至视频。这种低门槛的滥用，正在扭曲大众对社会政治现实和科学共识的认知。

连真实的证据，也被打成了「AI 假图」

如果只是假内容变多，大家多长个心眼或许还能应付。但研究人员提醒，真正的危机远不止于此。

垃圾化、恶意的合成内容大规模泛滥，正在让普通人对网络上的所有数字信息产生普遍怀疑，被迫承担极其沉重的核验成本。

更让人背脊发凉的是所谓的「说谎者红利」。研究指出，已经有公众人物在面对对自己不利的真实证据时，直接反咬一口说「那是 AI 生成的假东西」。

这样一来，举证的责任被以极其昂贵且低效的方式强行转移给了质疑者，真相反而被稀释成了说不清的糊涂账。

不过耐人寻味的是，整篇论文通篇没有提及 Google 自己的翻车现场，比如近期 AI 搜索摘要胡言乱语被官方紧急手动清理的尴尬经历。

为什么重要

我们认为，这篇论文最扎心的地方在于，它揭示了一个行业公开的秘密：很多人嘴里的「AI 滥用」，本质上其实是这项技术在按预期正常工作。

生成式 AI 最擅长的事情之一就是伪造现实。当商业公司为了抢占市场，竞相把门槛降得越来越低时，互联网被低质内容淹没就成了必然结果。

对普通用户来说，接下来的网络环境只会变得越来越难辨真假。你不仅要防范越来越逼真的新型诈骗，日常看新闻也必须投入更多精力去查验信源。如果你是个内容创作者，被抄袭或被冒名的维权成本也将高得令人望而却步。

看起来，Google 等科技巨头如今正处在一种极其分裂的状态。实验室里的学者清楚看到了合成垃圾对互联网生态的侵蚀，但商业部门却停不下把 AI 包装成核心卖点的步伐。巨头们亲手打开了潘多拉魔盒，却把清理现场的代价留给了所有网民。