OpenAI 发布新基准 GDPval:覆盖 44 种职业,实测 AI 打工水平
OpenAI 推出新评测基准 GDPval,选取对美国 GDP 贡献最高的 9 大行业中 44 种知识工作职业,设计了 1320 个真实交付物任务。最关键的是,盲测显示顶级模型在部分任务上已逼近行业专家水平,且成本降低约百倍。不过目前测试仅限单轮交付,暂未覆盖多轮交互。

AI 在各种考试和奥数竞赛里拿高分,早就不是什么新鲜事了。但对大多数每天打工的人来说,大模型能不能解开一道高数题根本不重要,大家更关心的是:它能不能帮我把手头这堆烂摊子收拾了?
OpenAI 正式发布了一个全新的基准测试,名字叫 GDPval。它的核心目的只有一个:不再测大模型会不会做题,而是专门测它们在真实职场中,能不能干出具有实际经济价值的工作。
44 个职业,全是拿真实工作产出来考
以往的测试比如 MMLU 像是在考大学入学试卷,即便是后来的 SWE-Bench 也主要局限在写代码和修 bug。OpenAI 这次干脆把标准锚定在了宏观经济上。
他们先从圣路易斯联储的数据中挑出了贡献美国 GDP 超过 5% 的 9 大核心行业,包括医疗、金融、制造、零售和专业服务等。接着根据美国劳工统计局 2024 年 5 月的就业数据,找出每个行业里薪酬总额最高、且以脑力劳动为主的职业。
所谓脑力劳动,OpenAI 给出的门槛是:利用美国劳工部的 O*NET 数据库,只要该职业有 60% 以上的任务不需要在物理世界里动手,就符合标准。最终他们圈出了 44 个职业。
这里面不仅有软件工程师、律师和会计师,还有注册护士、机械工程师、房产经纪人、新闻记者甚至私人侦探。总共有 1,320 个具体任务,其中 220 个任务作为黄金测试集完全开源。
这些任务不是一两句简单的提示词,而是带着完整的背景文件和上下文。大模型需要交付的东西也五花八门,涵盖法律意见书、工程蓝图、护理计划、PPT、电子表格和多媒体文件。
为了出这些考卷,OpenAI 请来了各行业的资深专家,平均从业时间超过 14 年。每个题目平均要经历 5 轮严格审核,确保它确实是行业里日常会出现的真活儿。
盲测对比专家,连竞品模型也一起拉来考
做完题目之后,怎么打分也是个难题。OpenAI 依然依赖这些资深专家来进行双盲评审。
打分专家完全不知道哪份结果是人类写的,哪份是 AI 生成的。他们要对产出进行挑刺、排序,并明确标记出 AI 的表现到底比人类更好、差不多,还是更差。
除了自家的 GPT-4o、o4-mini、OpenAI o3 和 GPT-5,OpenAI 这次还直接把竞品拉到了同一张考卷上,受测模型包括 Claude Opus 4.1、Gemini 2.5 Pro 和 Grok 4。
为了降低未来评估的门槛,OpenAI 还训练了一个专门用来模仿专家口味的自动评分模型,并在 evals.openai.com 上作为实验性研究服务开放。不过他们自己也承认,这个自动打分工具目前还不如真人专家靠谱,暂时不能完全取代人工评审。
不过 GDPval 目前也有个明显的局限:它目前全是一次性交付的单轮测试。在实际工作中,很少有人能靠一个指令把几万字的方案交出来,复杂的任务往往需要反复沟通、改版和补充背景。OpenAI 表示未来的版本会补上多轮交互的工作流。
为什么重要
我们认为,GDPval 的发布意味着 AI 行业的评测标准正在发生一次重要转向。
长期以来,模型厂商都在刷那些越来越难、但离普通人极度遥远的学术基准。这种分数除了在技术发布会上好看,很难回答企业采购者最直接的问题:我花钱买你的 API,到底能省下多少工时?GDPval 第一次把模型能力和真实的经济产出直接绑在了一起。
对普通打工人来说,这是一份极具参考价值的体检报告。如果你从事的是这 44 个职业之一,不妨看看这些具体的测试任务。但值不值得现在就把工作全盘托付给 AI?答案显然是否定的。真实职场的复杂度不仅在于写出一份漂亮的报告,还在于上下文的理解和反复修改,单轮测试能拿高分,不代表它在实际流程里不会翻车。
从行业竞争来看,OpenAI 这一步走得很聪明,它正在试图定义什么叫作实用的 AGI。把宏观经济指标和自家评测绑定,本质上是在抢占商业叙事的高地,逼着 Anthropic 和 Google 也必须把评测重心转移到真实工种上。
但这里的隐患也同样明显。知识工作的核心往往不是一份标准答案,而是人际协作与特定组织的默契。用标准化的交付物来量化 44 个职业的价值,看起来很有说服力,但也可能过早低估了各行业非标准化环节的复杂性。
来源 (1)
- openai.com(在新标签页打开)原文openai.com