Microsoft 警告：中國操作人員疑似用 AI 生成影像影響美國選民

以前在社交媒體上做認知作戰，水軍發出來的圖往往有一股撲面而來的塑膠感。不是蹩腳的素材庫摳圖拼貼，就是粗糙的手繪插圖，明眼人一眼就能看出不對勁。

但在生成式 AI 普及之後，劇本徹底變了。

微軟威脅分析中心釋出最新安全報告，警告稱疑似受中國控制的網路水軍，正開始利用 AI 生成的影像在美國社交媒體上挑動對立，試圖在 2024 年美國大選前左右選民情緒。

中國駐美大使館發言人對此迅速回應，稱指控「充滿偏見和惡意揣測」，並表示中方一貫倡導安全使用人工智慧。

擴散模型進場，水軍扔掉素材庫

根據微軟報告，這批虛假賬號自 2023 年 3 月起，就開始利用生成式 AI 技術製作英文政治敏感內容。研究人員雖然沒有直接點名具體的平臺，但報告截圖顯示，這些帖子大量出現在 Facebook 和 Twitter（現 X 平臺）上。

他們瞄準的議題非常精準，全是美國國內最具撕裂性的死穴，包括槍支暴力、種族矛盾以及黑人的命也是命運動，同時還用來貶損特定的政治人物。

微軟在報告中舉了一個典型例子：一張由 AI 擴散模型生成的自由女神像，手裡端著一把突擊步槍，下方配文寫著「一切都在被拋棄，暴力的女神」。

比起過去的假賬號，這批賬號的偽裝做得更下功夫。它們把公開個人資料的所在地直接填在美國本土，頻繁轉發美國政治口號，跟著當地的熱門標籤帶節奏，甚至同時從左翼和右翼兩條戰線分頭下場挑事。

微軟研究員強調，擴散模型生成的畫面比起以往的庫存圖片或手繪更有視覺張力，欺騙性高得多。報告估計，相關宣傳內容已經覆蓋了多達 40 種語言，潛在觸達人群高達 1.03 億人。就在前一週，Meta 也剛端掉了一個據稱是「全球已知最大規模的跨平臺秘密影響力網路」，同樣指涉相關背景。

針對如何斷定幕後黑手，微軟發言人對路透社表示，他們採用了一套多維歸因模型，綜合考量了技術證據、行為痕跡和上下文證據，並認為其活動模式與美國司法部此前指控的某些精銳行動小組高度相似。

為什麼重要

對普通網民來說，最直接的警示是：不要相信眼睛在資訊流裡看到的情緒化圖片。過去辨別水軍還可以靠糟糕的畫質和生硬的機翻，現在基於擴散模型的 AI 工具把以假亂真的門檻打到了地板上。面對刻意煽動恐懼、憤怒的政治迷因，核查信源的成本正在變得極高，普通人一不留神就會成為擴散鏈條上的一環。

對行業而言，這場貓鼠遊戲的攻防平衡被徹底打破了。大選臨近，社交平臺原本用來對抗虛假賬號的文本過濾和相簿比對機制基本失效。面對海量由 AI 即時生成、各不相同的寫實影像，防守方哪怕動用多維歸因也往往滯後數月。這會倒逼各家科技巨頭必須把數字水印和內容溯源標準當成硬指標推上前線。

在我們看來，微軟這次的做法很聰明，搶在選戰全面升溫前主動把技術監測推到臺前，既展現了自己在網路安全領域的偵測肌肉，也順理成章地把生成式 AI 的倫理責任推向公眾討論。但隱患同樣明顯：報告給出的具體技術溯源細節相當有限，而大國博弈下的歸因往往極易陷入羅生門。當 AI 影像生成工具徹底走向開源和去中心化，到底是誰在幕後操弄鍵盤，未來恐怕會越來越說不清。