跳到正文
IFAI

行业动态

OpenAI 封禁伊朗黑客账号:用 ChatGPT 干预美国大选,但几乎没人看

首次发布 传播指数 41

OpenAI 封禁了一批关联伊朗秘密行动 Storm-2035 的 ChatGPT 账号。该团队利用 AI 生成假新闻和社媒评论试图干预美国大选与舆论。不过监测显示其帖子互动寥寥,几乎没有真实受众买账。

OpenAI 封禁伊朗黑客账号:用 ChatGPT 干预美国大选,但几乎没人看
图:openai.com

如果你这阵子在网上看到过立场极其鲜明、言辞激烈的美国大选评论,先别急着对骂,背后敲键盘的可能根本不是选民,甚至不是人类。

OpenAI 最近就封杀了一批 ChatGPT 账号。这批账号背后关联着一个代号为「Storm-2035」的伊朗隐性影响力行动,专门用 AI 批量炮制政治内容,试图在美国大选前夕搅动网络舆论。

左右互搏,连时尚穿搭都不放过

调查显示,这个行动团队把 ChatGPT 当成了全自动宣传机器,主要分两条线干活。

一条线是写长篇深度文章。他们搭建了 5 个假冒新闻网站,包括 niothinker[.]com 和 savannahtime[.]com 等,一边假装成激进的进步派媒体,另一边又扮成保守派阵地,针对美国大选候选人、加沙冲突、以色列参加奥运会等热点话题大做文章,偶尔还会聊聊委内瑞拉政局和苏格兰独立。

另一条线是社交媒体上的短评水军。调查人员在 X 上发现了十来个账号,Instagram 上也有一个,同样玩着「左右互搏」的话术,甚至还会用英语和西班牙语双语发帖。他们还会把别人发的热门评论丢给 ChatGPT 改写,以此批量制造回复。

为了让自己看起来像个活生生的人,这帮账号在狂喷政治议题的间隙,还会冷不丁发几条时尚和美妆心得,企图以此养号和涨粉。

忙活半天,点赞基本为零

听起来挺唬人,但实际效果非常尴尬。OpenAI 表示,根据布鲁金斯学会评估隐性舆论战的「突围指数」(Breakout Scale,1 到 6 级),这次行动只能排在极低的第 2 级。

换句话说,虽然他们在多个平台上开号,但根本没有现实中的真人搭理他们。绝大多数社交媒体帖子几乎是零点赞、零转发、零评论,那些假新闻网站的文章也根本没有人往社交网络上转。

这次行动之所以能被顺藤摸瓜揪出来,也得益于微软上周公布的威胁情报。OpenAI 随后顺着线索封掉了账号,并把情报同步给了相关政府机构和竞选团队。

为什么重要

这类用大模型搞舆论战的操作,目前最大的特点就是「雷声大、雨点小」。生成假新闻的门槛确实降到了有手就行,但要把垃圾内容变成能真正左右人心的共识,AI 光靠灌水还远远做不到。

我们认为,OpenAI 这种快速联动微软情报并公开封号的做法很聪明。一方面在大选年向监管层和公众交了防滥用的差,另一方面也通过摆出「零互动」的客观数据,给社会上普遍泛滥的「AI 即将彻底摧毁选举」的恐慌情绪降了温。

但这里的隐患依然存在。宣传机器的生产成本几乎已经被抹平成零,一次没人看,他们可以试一万次;今天靠几个粗制滥造的网站和账号打头阵,明天可能就会结合更高级的协同网络和精准画像。平台靠事后封禁和查封域名打地鼠,防守成本显然比攻击成本高得多。

来源 (1)

  1. [1]
    openai.com(在新标签页打开)原文openai.com

话题追踪OpenAI 打击 AI 影响力行动

这个话题的历次新闻,最新的在上面。

  1. OpenAI 公布大选防护数据:驳回 25 万次政治人物深伪图像生成
  2. OpenAI 封禁伊朗黑客账号:用 ChatGPT 干预美国大选,但几乎没人看本条
  3. OpenAI 查禁 5 起秘密舆论操纵:AI 水军虽然能写,但没人看

每日 AI 内容精选