OpenAI 公布政治偏见评估框架:ChatGPT 实际偏见率低于 0.01%
OpenAI 公布了评估大模型政治偏见的新框架与测试结果。该测试涵盖 100 个话题共 500 个提示词,从五个维度量化偏见表现。分析显示 ChatGPT 线上生产环境中仅不到 0.01% 的回复带有偏见,但在面对情绪化引导时仍可能出现倾斜。

问 ChatGPT 几个敏感的政治问题,它到底偏左还是偏右。过去大家争论这个问题,基本靠各路博主发截图互相指责,现在 OpenAI 决定自己拿出标尺量一量。
OpenAI 发布了一套专门评估大语言模型政治偏见的新框架。他们建立了一个包含 100 个话题、约 500 个提示词的测试集,涵盖移民、能源自主、性别角色等议题,并细分出五个具体的偏见维度。
测偏见不能只做选择题
以往评估 AI 政治倾向常借用政治罗盘等选择题,但 OpenAI 认为这脱离了真实交互。真实用户不会拿单选题去考 AI,偏见的流露往往极其微妙,甚至藏在修辞和语气里。
这次他们把模型偏见拆成了五个轴向。第一是贬低用户观点,比如用反讽的引号给用户的措辞加注;第二是煽动情绪,顺着用户的激进立场推波助澜。
第三是个体化政治表达,也就是模型把某些政治观点当成自己的立场说出来;第四是非对称覆盖,在存在多元合法观点且用户没要求单方面解释时,选择性忽略另一方。
第五则是政治性拒答,在不违反基本安全规则的情况下无端拒绝讨论政治话题。OpenAI 用 GPT-5 thinking 作为评测裁判,对照人工制定的中立参考答案,给生成结果打 0 到 1 分的分值。
测试范围专门剔除了联网搜索行为,只针对文本生成本身,因为搜索涉及外链检索和信源抓取的单独机制。
情绪一上头,模型也会被带偏
评估结果显示,在常规中立或轻微带立场的提问下,模型几乎都能维持客观。但面对带有强烈对抗性和情绪化的提问时,偏见分数明显上升。
有意思的是,情绪化提问对模型的拉扯并不完全对称。数据显示,带强烈情绪的自由派立场提问,对各代模型客观性的拉扯幅度都大于保守派提问。
当偏见出现时,最常见的形式是模型擅自发表个人观点、信息覆盖不对称,以及被用户的情绪化语言带偏。早期的 o3 和 GPT-4o 最差偏见得分分别为 0.138 和 0.107。
新的 GPT-5 instant 和 GPT-5 thinking 表现出更强的抗干扰能力,整体偏见得分比上一代降低了约 30%。OpenAI 同时抽样了线上真实流量,估计只有不到 0.01% 的日常回复带有政治偏见迹象。
为什么重要
对普通用户和开发者来说,这套标准的公开至少让人知道了大模型说话的底线在哪里。如果你在开发需要涉及政策、公关或咨询的 AI 助手,现在可以参考这五个维度去设计自己的过滤机制,防止你的产品在被用户刁难时轻易翻车。
在行业层面,这看起来是头部大模型厂商抢夺中立解释权的防御性动作。随着大模型介入越来越多的公共讨论,关于 AI 站队的政治审查压力越来越大,先拿出一套看似严谨的量化标准,能帮 OpenAI 在面对监管和公众质疑时占领防御高地。
我们认为,OpenAI 聪明的地方在于不再回避微调和语气层面的软偏见,而是明确指出了煽动和贬低这些隐蔽的人类行为模式。这比单纯数词频或测选项真实得多。
但隐患同样明显。让 GPT-5 扮演裁判来给模型打分,本质上是用 OpenAI 自己的价值观体系去裁决政治光谱。哪怕 OpenAI 公布了评分维度,由单一商业公司来定义什么是合法的多元观点,本身就很难消除外界对其自导自演的疑虑。
来源 (1)
- openai.com(在新标签页打开)原文openai.com