OpenAI 釋出 GPT-4o 系統卡：說服力達中等風險，語音重點防偽造

如果你和 GPT-4o 聊過天，可能會驚歎於它那幾乎察覺不到延遲的反應，還有那帶著呼吸感和情緒起伏的聲音。但如果把它放進一場選舉辯論或者說服實驗裡，它可能比很多人類演說家還擅長改變別人的看法。

OpenAI 正式釋出了 GPT-4o 的系統安全卡片（System Card）。這是 OpenAI 按照其「準備度框架」交出的一份完整體檢報告。在網路安全、生物威脅、模型自主性這三項評測中，GPT-4o 都拿到了「低風險」，唯獨在「說服力」這一項上被定為「中等風險」。根據 OpenAI 的規則，總體風險等級由最高的一項決定，因此 GPT-4o 的最終評級停留在了「中等風險」。

100 多名紅客找漏洞，最危險的竟然是「口才」

GPT-4o 最大的突破是端到端全模態，文本、視覺和音訊由同一個神經網路處理。音訊響應時間最短只要 232 毫秒，平均 320 毫秒，已經完全貼合人類對話的節奏。但這也帶來了前所未有的麻煩，比如未授權的聲音克隆、帶版權的音訊片段復現，甚至是使用者對 AI 產生過度情感依戀。

為了摸清底細，OpenAI 在 2024 年 3 月到 6 月下旬找了 100 多名外部紅隊專家。這批人來自 29 個國家，涵蓋 45 種語言。測試分了四個階段，從內部工具一路測到了 iOS 客戶端。除了內部團隊，OpenAI 還拉來了 METR 和 Apollo Research 這兩家業內專門做模型評估的獨立機構。

在很多人的想像裡，AI 最大的風險可能是教人制造武器或者自己寫病毒黑進系統。但實測下來，GPT-4o 在生物危害和網路攻擊上的能力依然有限，反而是「說服力」壓線拿了中等風險。研究人員發現，雖然在整體測試樣本中它還沒全面超越人類，但在某些特定寫作樣本里，GPT-4o 改變讀者觀點的效果已經比人類作者更勝一籌。

選在風口浪尖交卷

這份安全報告發布的時間點非常微妙。GPT-4o 早在 5 月就已經上線，高階語音模式也在逐步小範圍灰度，但詳細的系統卡片卻拖到了 8 月。

就在卡片釋出前幾分鐘，美國參議員 Elizabeth Warren 和眾議員 Lori Trahan 剛剛發出公開信，要求 OpenAI 交代如何處理內部舉報人和安全審查流程。此前已有安全團隊高管離職，並公開批評公司的安全文化讓位給了光鮮的產品。

與此同時，美國大選臨近，虛假資訊傳播風險陡增，加州參議員 Scott Wiener 正在推動針對大模型的監管法案。外媒 The Verge 評價得很直接：雖然請了一堆外部紅隊，但整份報告本質上依然是 OpenAI 按照自己設定的標準給自己打分。

為什麼重要

這份系統卡片不僅是一次合規披露，更像是一份行業預警。

對普通使用者和開發者來說，GPT-4o 強大的擬人化語音和說服力是一把極鋒利的雙刃劍。在客服、口語教學或心理陪伴場景裡，它極高的情商和連貫度能帶來顛覆性的體驗，現在絕對值得去接入和測試。但代價是，我們必須對它輸出的內容保持警惕。它太擅長順著人說話，甚至能不知不覺引導使用者的傾向。如果用來做內容分發或銷售推薦，使用者極容易在潛移默化中被牽著鼻子走。

對整個 AI 行業而言，競爭的焦點正在從單純的跑分刷題，轉向模態融合帶來的全新風險防範。以往大家防的是程式碼漏洞和涉毒涉暴文本，現在卻要面對即時聲音偽造、情緒操控和無依據的聲音推斷。OpenAI 借 Voice Engine 將文本安全任務轉為音訊測試的思路很巧，但也證明了行業多模態安全測試工具的匱乏。

在我們看來，OpenAI 這一次的做法既務實又透著隱憂。把「說服力」單獨列出並坦承達到中等風險，說明他們清楚多模態互動對人類心智的影響力。但問題在於，裁判和運動員依然是同一批人。自建框架、自己劃定安全線，很難徹底打消外界的質疑。隨著各國監管法案步步緊逼，這種「自我體檢報告」式的安全自治，看起來很快就會走到盡頭。