跳到正文
IFAI

產業動態

OpenAI 封禁俄伊輿論操縱網路:假冒記者與智庫滲透主流媒體

首次發布 傳播指數 45

OpenAI 宣佈封禁俄羅斯和伊朗的兩個隱蔽輿論操縱網路。涉案組織利用 ChatGPT 偽造多名虛假記者身份並設立假智庫,成功將地緣政治假新聞植入多國主流媒體,這也是 OpenAI 首次查禁達到 5 級外溢規模的影響力行動。

OpenAI 封禁俄伊輿論操縱網路:假冒記者與智庫滲透主流媒體
圖:openai.com

以前搞輿論操縱,基本就是在社交媒體上僱水軍刷留言、發假推文。但現在的玩法變了,駭客和情報機構開始給 AI 穿上西裝,辦假智庫、造假記者,直接把稿子投進正規報紙。

OpenAI 最近封禁了兩批濫用 ChatGPT 的違規賬號,分別來自俄羅斯和伊朗。這兩起行動都在用高仿的實體做掩護,把特定立場的地緣政治宣傳洗進目標受眾的視野裡。其中俄羅斯的行動在影響力突破指數上達到了第 5 級,這也是 OpenAI 追蹤此類事件兩年半以來遇到的最高等級。

招不知情的員工辦智庫,造 7 個假記者投稿

俄羅斯的這起行動被 OpenAI 代號命名為 Dark Clark。幕後操盤手躲在俄羅斯境內,通過 VPN 訪問 ChatGPT,大部分時候用俄語下指令。他們最核心的操作,是在拉丁美洲扶植了一個叫社會研究中心的假智庫。

有意思的是,這個智庫並不是單純靠 AI 生成垃圾文章,而是真正招募了一批不知情的拉美本地員工。操盤手化名 Mia Clark,在暗處決定招聘、薪資和開除,讓這些本地打工人矇在鼓裡生產原創內容。

不僅如此,他們還針對阿根廷、玻利維亞和厄瓜多政壇搞事。比如針對阿根廷總統米萊造謠,說他給自家愛犬買了卡地亞珠寶項圈,甚至花錢僱人在布宜諾斯艾利斯街頭噴塗反米萊標語。開源調查顯示,這套班底很可能是華格納集團前下屬實體 Politology 的延續。

伊朗的行動代號叫 Bogus Bylines,走的是另一條路。他們打造了 7 個虛構的記者人設,用波斯語讓 ChatGPT 批次寫深度長文,然後向全球各地的中小媒體投稿。據報道,連美國佛羅里達州的一家本地報紙都刊登了一篇署名 Ervin Hoskins 的 AI 文章。OpenAI 認為這背後很可能是一家接單幹活的商業公關外包公司。

更讓人哭笑不得的是,兩夥人最常用 ChatGPT 乾的事並不是寫假新聞,而是寫給領導的工作彙報。為了向上級邀功,操盤手頻繁用 AI 潤色總結,甚至把別人的活動也算作自己的戰果。

為什麼重要

過去兩年半里,OpenAI 一共曝光了 30 起秘密影響力行動。這起事件最值得警惕的地方在於,搞假資訊的團隊正在放棄那些容易被平臺封殺的純水軍賬號,轉向門檻更高的真實媒體滲透。

只要文章能混進一家地方報紙或行業網站,虛假敘事就洗白成了公開報道,傳播力和可信度會呈指數級放大。AI 沒有發明新的欺騙邏輯,但它把語言門檻、撰稿成本和偽造人設的效率壓縮到了極點。

對媒體行業來說,中小媒體和地方報刊的稽核能力正在成為最薄弱的突破口。缺乏經驗的編輯很容易被流暢、專業的 AI 長文打動,不知不覺就成了別人的傳聲筒。

我們認為,OpenAI 公開披露這種假門面運作確實有威懾力,因為這類偽裝一旦被點名曝光,苦心經營的馬甲就徹底廢了。但隱患在於,只要商業大模型還能通過外掛代理或黑產賬號訪問,防禦方就永遠只能在事情發酵後做亡羊補牢式的清理。

來源 (2)

  1. [1]
    openai.com(在新分頁開啟)原文openai.com
  2. [2]
    theverge.com(在新分頁開啟)報導theverge.com

每日 AI 內容精選