Meta 发布大选复盘：平台虚假信息中 AI 生成内容占比不足 1%

今年年初的时候，几乎所有科技圈和政界的人都在担心同一件事：生成式 AI 这么厉害，今年全球大选年不得被 Deepfake 和虚假信息淹没？

然而临近年底，Meta 拿出一份复盘报告，直接给这种恐慌泼了一盆冷水。他们表示，在旗下的 Facebook、Instagram 和 Threads 上，真正经核实属于 AI 生成的选举虚假信息，占比连 1% 都不到。

59 万次拦截，与只涨了一点效率的水军

这份统计覆盖了今年全球多场重头选举，包括美国、英国、法国、印度、印尼、墨西哥和巴西等地。在所有经过第三方事实核查的虚假信息里，AI 标记的内容微乎其微。

为了防患于未然，Meta 在源头上管得挺严。在今年美国大选投票日前的一个月里，自家的 Imagine AI 图像生成工具一共拦截了 59 万次绘图请求，目标全是特朗普、万斯、哈里斯、沃尔兹以及拜登等关键候选人。

针对那些有组织的水军网络，Meta 也做了一番观察。他们发现，那些企图散布政治虚假信息的恶意团伙，虽然也用上了生成式 AI，但实际效果也就是稍微提升了一点产出内容的效率，并没有带来什么颠覆性的传播力。

更关键的是打击逻辑。Meta 提到，他们封禁这类操纵舆论的账号，看的是这帮账号背后的行为特征，比如异常的登录和互动模式，而不是看内容本身到底是不是 AI 写的。只要行为违规，不管文字写得多么天花乱坠，系统都会直接拔网线。

今年他们一共在全球端掉了大约 20 个新型隐蔽操纵网络。Meta 直言，这些团伙大多数根本没有吸引到真正的真人受众，平时全靠买假粉、刷假赞来营造自己很火的假象。

有意思的是，Meta 还不忘拉友商对比一下。他们明确指出，许多与俄罗斯相关的虚假选举视频，源头其实大部分都在 X 和 Telegram 上乱窜，而不是自家平台。

为什么重要

这番表态之所以值得琢磨，是因为它很大程度上打破了大家对 AI 影响大选的过度焦虑。对普通用户来说，至少在主流社交平台上，你日常刷到的政治争吵，绝大多数依然是真人在打口水仗，或者传播老套的剪辑手段，并没有到处充斥着以假乱真的超级 AI 阴谋。

但我们认为，对 Meta 拿出的这个不到 1% 的数字，也先别急着全盘买单。

这里的统计口径有一个天然的局限：它指的是经第三方事实核查过的虚假信息。那些隐蔽性极高、没人去举报核查的小型定向内容，或者压根没被平台标记出来的水军发言，其实很难完全体现在这个分子里。

另外，Meta 把聚光灯打在 X 和 Telegram 身上，做法确实挺精明。主流大厂因为合规和品牌顾虑，层层设防拔掉了大部分生成入口；但在监管宽松、主打匿名的平台上，AI 劣质内容的滋生显然容易得多。行业接下来的真正挑战，可能根本不是防范某个全知全能的超级大模型操弄民意，而是怎么跨平台堵住那些被低门槛开源模型武装起来的廉价垃圾信息。