OpenAI 公佈大選防護資料：駁回 25 萬次政治人物深偽影像生成

今年大選季開始前，很多人最擔心的不是候選人說了什麼，而是 AI 隨手捏出來的假照片、假影片會不會把選情攪得天翻地覆。

大選塵埃落定後，OpenAI 在 11 月 8 日交出了一份成績單，公佈了他們在 2024 年美國大選期間的後臺防禦資料。

從資料來看，他們的防禦網確實攔下了不少想要搞事情的嘗試。

一個月駁回 25 萬次深偽作圖，300 萬次提問被踢給傳統媒體

最惹眼的資料來自影像生成。

OpenAI 透露，在大選投票日之前的一個月裡，ChatGPT 拒絕了超過 25 萬次利用 DALL·E 生成真實政治人物影像的請求。

被攔截的目標包括當選總統特朗普、副總統哈里斯、當選副總統萬斯、現任總統拜登以及明尼蘇達州州長沃爾茲。

除了不讓畫人，OpenAI 還給 ChatGPT 設了禁言令，即便使用者在對話方塊裡追問到底該選誰，模型也必須保持中立，不得推薦任何候選人。

而在資訊查詢上，OpenAI 的策略很簡單：我不親自回答，讓懂的人來答。

在投票日前的一個月裡，大約有 100 萬次詢問投票地點或投票資格的提問，被直接引向了全美州務卿協會支援的權威網站 CanIVote.org。

到了投票日當天以及隨後的一天裡，使用者詢問即時選情和開票結果時，ChatGPT 更是給出了約 200 萬次提示，建議使用者去盯美聯社和路透社的最新報道。

兩項加起來，共有約 300 萬次可能涉及事實爭議的查詢被分流到了外部權威信源。

暗度陳倉的輿論操控，這次沒成氣候

除了普通使用者的好奇嘗試，更危險的是有組織的隱蔽輿論影響行動。

OpenAI 從今年 5 月起陸續釋出了多次網路威脅報告，追蹤惡意賬號利用大模型批次生成虛假宣傳內容的動作。

官方團隊在大選臨近期間持續監控服務，目前並未發現利用其模型生成的內容在社交平臺上引發病毒式傳播，或者成功吸附到長期的受眾群體。

早在今年 5 月，OpenAI 就開始為研究人員提供識別 DALL·E 生成影像的檢測工具，並加入了內容真實性聯盟 C2PA，把加密後設資料打進圖片裡。

同時他們也在政策上把口子紮緊，明確禁止使用 API 構建政治競選或遊說工具，嚴禁冒充真實政客製作聊天機器人。

為什麼重要

大選往往是新技術經受壓力測試的最嚴苛考場。

對於普通使用者和開發者來說，OpenAI 這種極其保守的做法直接立了個標杆：在高度敏感的公共事件中，AI 寧可交白卷，也不能冒充百事通。

大選期間你讓 ChatGPT 評價選情或者生成政治漫畫，大機率只會吃閉門羹，這種限制雖然犧牲了一部分自由度，卻保住了平臺的底線。

對整個 AI 行業來說，把 300 萬次查詢甩給傳統媒體和官方機構，看起來像是在甩包袱，但實際上是非常聰明的避嫌手段。

如果大模型在計票時給出一個哪怕只有 1% 偏差的錯誤幻覺，都會招來兩黨議員鋪天蓋地的口誅筆伐甚至監管重錘。

我們認為，OpenAI 這一次的防守策略走得很剋制，但也留下了一個懸而未決的問題：頭部廠商靠加護欄把深偽拒之門外，但這隻管得住自家的雲端服務，擋不住本地開源模型的濫用。

主流平臺的防禦做足了，下一次輿論戰的交鋒，必然會滑向更隱蔽、更不可控的開源陣地。