Meta 釋出安全報告：俄羅斯借生成式 AI 干擾美大選，收效甚微

大家都在擔心，生成式 AI 會變成今年全球各類大選裡最可怕的虛假資訊放大器。只要動動滑鼠，幾秒鐘就能生成一堆逼真的假圖、假影片和假新聞。

但 Meta 剛拿出來的一份安全報告，給出了一個反直覺的結論：對手確實用上了 AI，但收效甚微，基本上可以說失敗了。

產量暴漲了，但影響力依然不行

Meta 在週四釋出的一份安全報告中提到，俄羅斯的相關團伙正積極把生成式 AI 用在網路欺詐行動中，但到目前為止，這些嘗試並沒有掀起什麼波瀾。

Meta 發現，AI 工具給這些惡意行為者帶來的，僅僅是生產效率和內容生成速度上的邊際提升。換句話說，製造垃圾資訊的速度變快了，但並沒有變得更有說服力，Meta 依然能及時掐斷這些有組織的虛假操作。

Meta 安全政策總監 David Agranovich 對媒體透露，俄羅斯依然是其平臺上利用虛假賬號搞協同欺詐的最大源頭。自從 2022 年俄烏衝突爆發以來，這些水軍的核心目標一直是在網上唱衰烏克蘭及其盟友。

隨著美國大選臨近，Meta 預計這些有背景的虛假網路會把火力集中到支援烏克蘭的候選人身上。水軍們正在用 AI 工具批次寫假新聞摘要、翻譯文案，甚至生成圖片和影片來抓人眼球。

但 Meta 表示，他們在揪出這些虛假行動時，盯的從來不是帖子裡寫了什麼，而是賬號的行為模式。不管假新聞寫得多麼天花亂墜，賬號之間的協同軌跡依然會露出馬腳。

孤立的防線，和有些脫節的同行

問題在於，操縱輿論從來不會侷限在某一家平臺上。

Meta 發現，很多虛假行動會跨平臺聯動。比如水軍經常會在前身為 Twitter 的 X 平臺上發帖，藉此給捏造的內容增加所謂的真實感，然後再把流量引向其他網路角落。

Meta 表示他們會把發現的情報同步給其他網際網路公司，因為跨平臺防禦必須步調整齊。但在提到 X 是否積極響應排查時，Agranovich 直言對方還在經歷過渡期，過去經常打交道的很多老同事都已經離職了。

X 此前大幅削減了信任與安全團隊，也縮減了內容稽核力度。研究人員普遍認為，這種防守空檔讓該平臺成了虛假資訊更容易滋生的溫床。

為什麼重要

這份報告在很大程度上戳破了關於 AI 擾亂大選的過度恐慌。我們認為，至少在現階段，生成式 AI 還沒有成為顛覆輿論戰的超級武器，它更像是一個不知疲倦的打字機，雖然產出極大，但缺乏真正穿透人群的說服力。

Meta 的防禦邏輯也給行業提了個醒：在 AI 時代，去較真一段文本或一張圖片是不是 AI 做的，往往費力不討好；真正管用的，依然是抓賬號的行為鏈路和關聯特徵。這是防守方目前最聰明的一招。

但這並不意味著我們可以高枕無憂。虛假資訊對抗從來都是木桶效應，Meta 守住了 Facebook 和 Instagram，但如果 X 等其他關鍵平臺因為團隊流失和稽核缺位而成了洗白造假內容的跳板，整條防線依然存在明顯的短板。對於普通選民來說，學會關注信源的背景和賬號行為，依然比單純猜測一張圖是不是 AI 生成的更重要。