OpenAI 封禁伊朗駭客賬號:用 ChatGPT 干預美國大選,但幾乎沒人看
OpenAI 封禁了一批關聯伊朗秘密行動 Storm-2035 的 ChatGPT 賬號。該團隊利用 AI 生成假新聞和社媒評論試圖干預美國大選與輿論。不過監測顯示其帖子互動寥寥,幾乎沒有真實受眾買賬。

如果你這陣子在網上看到過立場極其鮮明、言辭激烈的美國大選評論,先別急著對罵,背後敲鍵盤的可能根本不是選民,甚至不是人類。
OpenAI 最近就封殺了一批 ChatGPT 賬號。這批賬號背後關聯著一個代號為「Storm-2035」的伊朗隱性影響力行動,專門用 AI 批次炮製政治內容,試圖在美國大選前夕攪動網路輿論。
左右互搏,連時尚穿搭都不放過
調查顯示,這個行動團隊把 ChatGPT 當成了全自動宣傳機器,主要分兩條線幹活。
一條線是寫長篇深度文章。他們搭建了 5 個假冒新聞網站,包括 niothinker[.]com 和 savannahtime[.]com 等,一邊假裝成激進的進步派媒體,另一邊又扮成保守派陣地,針對美國大選候選人、加沙衝突、以色列參加奧運會等熱點話題大做文章,偶爾還會聊聊委內瑞拉政局和蘇格蘭獨立。
另一條線是社交媒體上的短評水軍。調查人員在 X 上發現了十來個賬號,Instagram 上也有一個,同樣玩著「左右互搏」的話術,甚至還會用英語和西班牙語雙語發帖。他們還會把別人發的熱門評論丟給 ChatGPT 改寫,以此批次製造回覆。
為了讓自己看起來像個活生生的人,這幫賬號在狂噴政治議題的間隙,還會冷不丁發幾條時尚和美妝心得,企圖以此養號和漲粉。
忙活半天,點贊基本為零
聽起來挺唬人,但實際效果非常尷尬。OpenAI 表示,根據布魯金斯學會評估隱性輿論戰的「突圍指數」(Breakout Scale,1 到 6 級),這次行動只能排在極低的第 2 級。
換句話說,雖然他們在多個平臺上開號,但根本沒有現實中的真人搭理他們。絕大多數社交媒體帖子幾乎是零點贊、零轉發、零評論,那些假新聞網站的文章也根本沒有人往社交網路上轉。
這次行動之所以能被順藤摸瓜揪出來,也得益於微軟上週公佈的威脅情報。OpenAI 隨後順著線索封掉了賬號,並把情報同步給了相關政府機構和競選團隊。
為什麼重要
這類用大模型搞輿論戰的操作,目前最大的特點就是「雷聲大、雨點小」。生成假新聞的門檻確實降到了有手就行,但要把垃圾內容變成能真正左右人心的共識,AI 光靠灌水還遠遠做不到。
我們認為,OpenAI 這種快速聯動微軟情報並公開封號的做法很聰明。一方面在大選年向監管層和公眾交了防濫用的差,另一方面也通過擺出「零互動」的客觀資料,給社會上普遍氾濫的「AI 即將徹底摧毀選舉」的恐慌情緒降了溫。
但這裡的隱患依然存在。宣傳機器的生產成本幾乎已經被抹平成零,一次沒人看,他們可以試一萬次;今天靠幾個粗製濫造的網站和賬號打頭陣,明天可能就會結合更高階的協同網路和精準畫像。平臺靠事後封禁和查封域名打地鼠,防守成本顯然比攻擊成本高得多。
來源 (1)
- openai.com(在新分頁開啟)原文openai.com
話題追蹤OpenAI 打擊 AI 影響力行動
- OpenAI 公佈大選防護資料:駁回 25 萬次政治人物深偽影像生成
- OpenAI 封禁伊朗駭客賬號:用 ChatGPT 干預美國大選,但幾乎沒人看本則
- OpenAI 查禁 5 起秘密輿論操縱:AI 水軍雖然能寫,但沒人看