Meta 釋出大選復盤：平臺虛假資訊中 AI 生成內容佔比不足 1%

今年年初的時候，幾乎所有科技圈和政界的人都在擔心同一件事：生成式 AI 這麼厲害，今年全球大選年不得被 Deepfake 和虛假資訊淹沒？

然而臨近年底，Meta 拿出一份復盤報告，直接給這種恐慌潑了一盆冷水。他們表示，在旗下的 Facebook、Instagram 和 Threads 上，真正經核實屬於 AI 生成的選舉虛假資訊，佔比連 1% 都不到。

59 萬次攔截，與只漲了一點效率的水軍

這份統計覆蓋了今年全球多場重頭選舉，包括美國、英國、法國、印度、印尼、墨西哥和巴西等地。在所有經過第三方事實核查的虛假資訊裡，AI 標記的內容微乎其微。

為了防患於未然，Meta 在源頭上管得挺嚴。在今年美國大選投票日前的一個月裡，自家的 Imagine AI 影像生成工具一共攔截了 59 萬次繪圖請求，目標全是特朗普、萬斯、哈里斯、沃爾茲以及拜登等關鍵候選人。

針對那些有組織的水軍網路，Meta 也做了一番觀察。他們發現，那些企圖散佈政治虛假資訊的惡意團伙，雖然也用上了生成式 AI，但實際效果也就是稍微提升了一點產出內容的效率，並沒有帶來什麼顛覆性的傳播力。

更關鍵的是打擊邏輯。Meta 提到，他們封禁這類操縱輿論的賬號，看的是這幫賬號背後的行為特徵，比如異常的登入和互動模式，而不是看內容本身到底是不是 AI 寫的。只要行為違規，不管文字寫得多麼天花亂墜，系統都會直接拔網線。

今年他們一共在全球端掉了大約 20 個新型隱蔽操縱網路。Meta 直言，這些團伙大多數根本沒有吸引到真正的真人受眾，平時全靠買假粉、刷假贊來營造自己很火的假象。

有意思的是，Meta 還不忘拉友商對比一下。他們明確指出，許多與俄羅斯相關的虛假選舉影片，源頭其實大部分都在 X 和 Telegram 上亂竄，而不是自家平臺。

為什麼重要

這番表態之所以值得琢磨，是因為它很大程度上打破了大家對 AI 影響大選的過度焦慮。對普通使用者來說，至少在主流社交平臺上，你日常刷到的政治爭吵，絕大多數依然是真人在打口水仗，或者傳播老套的剪輯手段，並沒有到處充斥著以假亂真的超級 AI 陰謀。

但我們認為，對 Meta 拿出的這個不到 1% 的數字，也先別急著全盤買單。

這裡的統計口徑有一個天然的侷限：它指的是經第三方事實核查過的虛假資訊。那些隱蔽性極高、沒人去舉報核查的小型定向內容，或者壓根沒被平臺標記出來的水軍發言，其實很難完全體現在這個分子裡。

另外，Meta 把聚光燈打在 X 和 Telegram 身上，做法確實挺精明。主流大廠因為合規和品牌顧慮，層層設防拔掉了大部分生成入口；但在監管寬鬆、主打匿名的平臺上，AI 劣質內容的滋生顯然容易得多。行業接下來的真正挑戰，可能根本不是防範某個全知全能的超級大模型操弄民意，而是怎麼跨平臺堵住那些被低門檻開源模型武裝起來的廉價垃圾資訊。