OpenAI 发布 GPT-4o 系统卡：说服力达中等风险，语音重点防伪造

如果你和 GPT-4o 聊过天，可能会惊叹于它那几乎察觉不到延迟的反应，还有那带着呼吸感和情绪起伏的声音。但如果把它放进一场选举辩论或者说服实验里，它可能比很多人类演说家还擅长改变别人的看法。

OpenAI 正式发布了 GPT-4o 的系统安全卡片（System Card）。这是 OpenAI 按照其「准备度框架」交出的一份完整体检报告。在网络安全、生物威胁、模型自主性这三项评测中，GPT-4o 都拿到了「低风险」，唯独在「说服力」这一项上被定为「中等风险」。根据 OpenAI 的规则，总体风险等级由最高的一项决定，因此 GPT-4o 的最终评级停留在了「中等风险」。

100 多名红客找漏洞，最危险的竟然是「口才」

GPT-4o 最大的突破是端到端全模态，文本、视觉和音频由同一个神经网络处理。音频响应时间最短只要 232 毫秒，平均 320 毫秒，已经完全贴合人类对话的节奏。但这也带来了前所未有的麻烦，比如未授权的声音克隆、带版权的音频片段复现，甚至是用户对 AI 产生过度情感依恋。

为了摸清底细，OpenAI 在 2024 年 3 月到 6 月下旬找了 100 多名外部红队专家。这批人来自 29 个国家，涵盖 45 种语言。测试分了四个阶段，从内部工具一路测到了 iOS 客户端。除了内部团队，OpenAI 还拉来了 METR 和 Apollo Research 这两家业内专门做模型评估的独立机构。

在很多人的想象里，AI 最大的风险可能是教人制造武器或者自己写病毒黑进系统。但实测下来，GPT-4o 在生物危害和网络攻击上的能力依然有限，反而是「说服力」压线拿了中等风险。研究人员发现，虽然在整体测试样本中它还没全面超越人类，但在某些特定写作样本里，GPT-4o 改变读者观点的效果已经比人类作者更胜一筹。

选在风口浪尖交卷

这份安全报告发布的时间点非常微妙。GPT-4o 早在 5 月就已经上线，高级语音模式也在逐步小范围灰度，但详细的系统卡片却拖到了 8 月。

就在卡片发布前几分钟，美国参议员 Elizabeth Warren 和众议员 Lori Trahan 刚刚发出公开信，要求 OpenAI 交代如何处理内部举报人和安全审查流程。此前已有安全团队高管离职，并公开批评公司的安全文化让位给了光鲜的产品。

与此同时，美国大选临近，虚假信息传播风险陡增，加州参议员 Scott Wiener 正在推动针对大模型的监管法案。外媒 The Verge 评价得很直接：虽然请了一堆外部红队，但整份报告本质上依然是 OpenAI 按照自己设定的标准给自己打分。

为什么重要

这份系统卡片不仅是一次合规披露，更像是一份行业预警。

对普通用户和开发者来说，GPT-4o 强大的拟人化语音和说服力是一把极锋利的双刃剑。在客服、口语教学或心理陪伴场景里，它极高的情商和连贯度能带来颠覆性的体验，现在绝对值得去接入和测试。但代价是，我们必须对它输出的内容保持警惕。它太擅长顺着人说话，甚至能不知不觉引导用户的倾向。如果用来做内容分发或销售推荐，用户极容易在潜移默化中被牵着鼻子走。

对整个 AI 行业而言，竞争的焦点正在从单纯的跑分刷题，转向模态融合带来的全新风险防范。以往大家防的是代码漏洞和涉毒涉暴文本，现在却要面对实时声音伪造、情绪操控和无依据的声音推断。OpenAI 借 Voice Engine 将文本安全任务转为音频测试的思路很巧，但也证明了行业多模态安全测试工具的匮乏。

在我们看来，OpenAI 这一次的做法既务实又透着隐忧。把「说服力」单独列出并坦承达到中等风险，说明他们清楚多模态交互对人类心智的影响力。但问题在于，裁判和运动员依然是同一批人。自建框架、自己划定安全线，很难彻底打消外界的质疑。随着各国监管法案步步紧逼，这种「自我体检报告」式的安全自治，看起来很快就会走到尽头。