Microsoft 警告：中国操作人员疑似用 AI 生成图像影响美国选民

以前在社交媒体上做认知作战，水军发出来的图往往有一股扑面而来的塑料感。不是蹩脚的素材库抠图拼贴，就是粗糙的手绘插图，明眼人一眼就能看出不对劲。

但在生成式 AI 普及之后，剧本彻底变了。

微软威胁分析中心发布最新安全报告，警告称疑似受中国控制的网络水军，正开始利用 AI 生成的图像在美国社交媒体上挑动对立，试图在 2024 年美国大选前左右选民情绪。

中国驻美大使馆发言人对此迅速回应，称指控「充满偏见和恶意揣测」，并表示中方一贯倡导安全使用人工智能。

扩散模型进场，水军扔掉素材库

根据微软报告，这批虚假账号自 2023 年 3 月起，就开始利用生成式 AI 技术制作英文政治敏感内容。研究人员虽然没有直接点名具体的平台，但报告截图显示，这些帖子大量出现在 Facebook 和 Twitter（现 X 平台）上。

他们瞄准的议题非常精准，全是美国国内最具撕裂性的死穴，包括枪支暴力、种族矛盾以及黑人的命也是命运动，同时还用来贬损特定的政治人物。

微软在报告中举了一个典型例子：一张由 AI 扩散模型生成的自由女神像，手里端着一把突击步枪，下方配文写着「一切都在被抛弃，暴力的女神」。

比起过去的假账号，这批账号的伪装做得更下功夫。它们把公开个人资料的所在地直接填在美国本土，频繁转发美国政治口号，跟着当地的热门标签带节奏，甚至同时从左翼和右翼两条战线分头下场挑事。

微软研究员强调，扩散模型生成的画面比起以往的库存图片或手绘更有视觉张力，欺骗性高得多。报告估计，相关宣传内容已经覆盖了多达 40 种语言，潜在触达人群高达 1.03 亿人。就在前一周，Meta 也刚端掉了一个据称是「全球已知最大规模的跨平台秘密影响力网络」，同样指涉相关背景。

针对如何断定幕后黑手，微软发言人对路透社表示，他们采用了一套多维归因模型，综合考量了技术证据、行为痕迹和上下文证据，并认为其活动模式与美国司法部此前指控的某些精锐行动小组高度相似。

为什么重要

对普通网民来说，最直接的警示是：不要相信眼睛在信息流里看到的情绪化图片。过去辨别水军还可以靠糟糕的画质和生硬的机翻，现在基于扩散模型的 AI 工具把以假乱真的门槛打到了地板上。面对刻意煽动恐惧、愤怒的政治迷因，核查信源的成本正在变得极高，普通人一不留神就会成为扩散链条上的一环。

对行业而言，这场猫鼠游戏的攻防平衡被彻底打破了。大选临近，社交平台原本用来对抗虚假账号的文本过滤和图库比对机制基本失效。面对海量由 AI 实时生成、各不相同的写实图像，防守方哪怕动用多维归因也往往滞后数月。这会倒逼各家科技巨头必须把数字水印和内容溯源标准当成硬指标推上前线。

在我们看来，微软这次的做法很聪明，抢在选战全面升温前主动把技术监测推到台前，既展现了自己在网络安全领域的侦测肌肉，也顺理成章地把生成式 AI 的伦理责任推向公众讨论。但隐患同样明显：报告给出的具体技术溯源细节相当有限，而大国博弈下的归因往往极易陷入罗生门。当 AI 图像生成工具彻底走向开源和去中心化，到底是谁在幕后操弄键盘，未来恐怕会越来越说不清。