Meta 发布安全报告：俄罗斯借生成式 AI 干扰美大选，收效甚微

大家都在担心，生成式 AI 会变成今年全球各类大选里最可怕的虚假信息放大器。只要动动鼠标，几秒钟就能生成一堆逼真的假图、假视频和假新闻。

但 Meta 刚拿出来的一份安全报告，给出了一个反直觉的结论：对手确实用上了 AI，但收效甚微，基本上可以说失败了。

产量暴涨了，但影响力依然不行

Meta 在周四发布的一份安全报告中提到，俄罗斯的相关团伙正积极把生成式 AI 用在网络欺诈行动中，但到目前为止，这些尝试并没有掀起什么波澜。

Meta 发现，AI 工具给这些恶意行为者带来的，仅仅是生产效率和内容生成速度上的边际提升。换句话说，制造垃圾信息的速度变快了，但并没有变得更有说服力，Meta 依然能及时掐断这些有组织的虚假操作。

Meta 安全政策总监 David Agranovich 对媒体透露，俄罗斯依然是其平台上利用虚假账号搞协同欺诈的最大源头。自从 2022 年俄乌冲突爆发以来，这些水军的核心目标一直是在网上唱衰乌克兰及其盟友。

随着美国大选临近，Meta 预计这些有背景的虚假网络会把火力集中到支持乌克兰的候选人身上。水军们正在用 AI 工具批量写假新闻摘要、翻译文案，甚至生成图片和视频来抓人眼球。

但 Meta 表示，他们在揪出这些虚假行动时，盯的从来不是帖子里写了什么，而是账号的行为模式。不管假新闻写得多么天花乱坠，账号之间的协同轨迹依然会露出马脚。

孤立的防线，和有些脱节的同行

问题在于，操纵舆论从来不会局限在某一家平台上。

Meta 发现，很多虚假行动会跨平台联动。比如水军经常会在前身为 Twitter 的 X 平台上发帖，借此给捏造的内容增加所谓的真实感，然后再把流量引向其他网络角落。

Meta 表示他们会把发现的情报同步给其他互联网公司，因为跨平台防御必须步调整齐。但在提到 X 是否积极响应排查时，Agranovich 直言对方还在经历过渡期，过去经常打交道的很多老同事都已经离职了。

X 此前大幅削减了信任与安全团队，也缩减了内容审核力度。研究人员普遍认为，这种防守空档让该平台成了虚假信息更容易滋生的温床。

为什么重要

这份报告在很大程度上戳破了关于 AI 扰乱大选的过度恐慌。我们认为，至少在现阶段，生成式 AI 还没有成为颠覆舆论战的超级武器，它更像是一个不知疲倦的打字机，虽然产出极大，但缺乏真正穿透人群的说服力。

Meta 的防御逻辑也给行业提了个醒：在 AI 时代，去较真一段文本或一张图片是不是 AI 做的，往往费力不讨好；真正管用的，依然是抓账号的行为链路和关联特征。这是防守方目前最聪明的一招。

但这并不意味着我们可以高枕无忧。虚假信息对抗从来都是木桶效应，Meta 守住了 Facebook 和 Instagram，但如果 X 等其他关键平台因为团队流失和审核缺位而成了洗白造假内容的跳板，整条防线依然存在明显的短板。对于普通选民来说，学会关注信源的背景和账号行为，依然比单纯猜测一张图是不是 AI 生成的更重要。