OpenAI 查禁 5 起秘密舆论操纵：AI 水军虽然能写，但没人看

大家都在担心 AI 会不会变成超级水军工厂，让假新闻和认知战彻底失控。OpenAI 刚刚交出的一份成绩单，却给这个恐慌泼了盆冷水。

OpenAI 宣布，在过去三个月里，他们封禁了五个试图利用其模型进行隐蔽影响力行动的网络。这些账号分布在俄罗斯、中国、伊朗以及以色列的一家商业政治公关公司。

但这篇报告最耐人寻味的地方在于：这些水军虽然用上了最先进的 AI，实际效果却惨不忍睹。

拿顶尖大模型，干最基础的搬砖活

根据 OpenAI 的梳理，这五起行动覆盖的话题非常广泛，包括乌克兰危机、加沙局势、印度大选以及欧美政治。

其中两起来自俄罗斯，一个代号叫 Bad Grammar，主要在 Telegram 上活动；另一个是臭名昭著的 Doppelganger 团队，把内容翻译成英、法、德、意、波兰语发在 X 和 9GAG 上。

来自中国的 Spamouflage 网络则用大模型做开源调研、生成多语言推文，还让 AI 帮忙调试网站代码。伊朗的虚拟媒体联合会（IUVM）用它批量生成和翻译新闻长文。以色列商业公司 STOIC 主导的 Zero Zeno，则用 AI 批量生成评论发在 Instagram 和 Facebook 上。

听起来分工明确，但它们用 AI 做的事相当平庸。大模型基本被当成了廉价翻译、润色工具、起名生成器，或者一个帮忙改代码的初级程序员。

更尴尬的是受众根本不买账。按照布鲁金斯学会评估影响力行动的六级突破量表，这五起行动的得分全都没超过两级，意味着它们只是在多个平台机械刷屏，从没真正打进过真实网民的讨论圈子。

操作员的水平甚至经常拉胯。报告提到，有水军竟然直接把 AI 拒答的系统提示词，连同复制粘贴一起发到了社交媒体和公开网站上。

调查周期从几个月缩短到几天

水军在进化，防守方其实跑得更快。

OpenAI 透露，他们自己的安全系统不仅多次直接触发了拒绝机制，拦截了恶意生成请求，他们还用基于大模型的内部工具来辅助调查。

以往追踪这类多平台的跨国水军网络，安全团队往往需要耗费数周甚至数月来比对痕迹。如今靠自研的 AI 调查工具，整个排查过程被压缩到了几天以内。

随后，OpenAI 将这些威胁特征共享给了其他科技同行和开源研究社区，把防御链条推向了全行业。

为什么重要

我们认为，这份报告打破了很多人对 AI 认知战的过度神话。

很多人以为只要有了生成式 AI，就能凭空捏造民意、煽动舆论。但事实证明，影响力的核心瓶颈从来都不是批量制造文字，而是内容的分发渠道和真实共鸣。没有算法推流和真实互动，AI 批量吐出来的几万条推文，不过是互联网荒漠里自说自话的垃圾信息。

对普通人来说，这并不意味着你可以彻底放松警惕。水军用 AI 消除语法错误、伪造多语种身份的门槛确实降到了近乎于零，未来的假信息看起来会更自然、更像真人。

从行业博弈来看，OpenAI 这次展示了防守方以 AI 治 AI 的战术成效。大模型在防御审计、线索归因上的提速，远比黑客拿它刷评论带来的收益更明显。

不过隐患同样存在。OpenAI 只能清理自己平台上的 API 调用和账号，水军随时可以迁移到开源本地模型上。当认知对抗从云端转移到无监管的本地端，真正的猫鼠游戏才刚开始。