跳到正文
IFAI

行业动态

OpenAI 封禁俄伊舆论操纵网络:假冒记者与智库渗透主流媒体

首次发布 传播指数 45

OpenAI 宣布封禁俄罗斯和伊朗的两个隐蔽舆论操纵网络。涉案组织利用 ChatGPT 伪造多名虚假记者身份并设立假智库,成功将地缘政治假新闻植入多国主流媒体,这也是 OpenAI 首次查禁达到 5 级外溢规模的影响力行动。

OpenAI 封禁俄伊舆论操纵网络:假冒记者与智库渗透主流媒体
图:openai.com

以前搞舆论操纵,基本就是在社交媒体上雇水军刷留言、发假推文。但现在的玩法变了,黑客和情报机构开始给 AI 穿上西装,办假智库、造假记者,直接把稿子投进正规报纸。

OpenAI 最近封禁了两批滥用 ChatGPT 的违规账号,分别来自俄罗斯和伊朗。这两起行动都在用高仿的实体做掩护,把特定立场的地缘政治宣传洗进目标受众的视野里。其中俄罗斯的行动在影响力突破指数上达到了第 5 级,这也是 OpenAI 追踪此类事件两年半以来遇到的最高等级。

招不知情的员工办智库,造 7 个假记者投稿

俄罗斯的这起行动被 OpenAI 代号命名为 Dark Clark。幕后操盘手躲在俄罗斯境内,通过 VPN 访问 ChatGPT,大部分时候用俄语下指令。他们最核心的操作,是在拉丁美洲扶植了一个叫社会研究中心的假智库。

有意思的是,这个智库并不是单纯靠 AI 生成垃圾文章,而是真正招募了一批不知情的拉美本地员工。操盘手化名 Mia Clark,在暗处决定招聘、薪资和开除,让这些本地打工人蒙在鼓里生产原创内容。

不仅如此,他们还针对阿根廷、玻利维亚和厄瓜多尔政坛搞事。比如针对阿根廷总统米莱造谣,说他给自家爱犬买了卡地亚珠宝项圈,甚至花钱雇人在布宜诺斯艾利斯街头喷涂反米莱标语。开源调查显示,这套班底很可能是瓦格纳集团前下属实体 Politology 的延续。

伊朗的行动代号叫 Bogus Bylines,走的是另一条路。他们打造了 7 个虚构的记者人设,用波斯语让 ChatGPT 批量写深度长文,然后向全球各地的中小媒体投稿。据报道,连美国佛罗里达州的一家本地报纸都刊登了一篇署名 Ervin Hoskins 的 AI 文章。OpenAI 认为这背后很可能是一家接单干活的商业公关外包公司。

更让人哭笑不得的是,两伙人最常用 ChatGPT 干的事并不是写假新闻,而是写给领导的工作汇报。为了向上级邀功,操盘手频繁用 AI 润色总结,甚至把别人的活动也算作自己的战果。

为什么重要

过去两年半里,OpenAI 一共曝光了 30 起秘密影响力行动。这起事件最值得警惕的地方在于,搞假信息的团队正在放弃那些容易被平台封杀的纯水军账号,转向门槛更高的真实媒体渗透。

只要文章能混进一家地方报纸或行业网站,虚假叙事就洗白成了公开报道,传播力和可信度会呈指数级放大。AI 没有发明新的欺骗逻辑,但它把语言门槛、撰稿成本和伪造人设的效率压缩到了极点。

对媒体行业来说,中小媒体和地方报刊的审核能力正在成为最薄弱的突破口。缺乏经验的编辑很容易被流畅、专业的 AI 长文打动,不知不觉就成了别人的传声筒。

我们认为,OpenAI 公开披露这种假门面运作确实有威慑力,因为这类伪装一旦被点名曝光,苦心经营的马甲就彻底废了。但隐患在于,只要商业大模型还能通过外挂代理或黑产账号访问,防御方就永远只能在事情发酵后做亡羊补牢式的清理。

来源 (2)

  1. [1]
    openai.com(在新标签页打开)原文openai.com
  2. [2]
    theverge.com(在新标签页打开)报道theverge.com

每日 AI 内容精选