OpenAI 釋出新基準 GDPval:覆蓋 44 種職業,實測 AI 打工水平
OpenAI 推出新評測基準 GDPval,選取對美國 GDP 貢獻最高的 9 大行業中 44 種知識工作職業,設計了 1320 個真實交付物任務。最關鍵的是,盲測顯示頂級模型在部分任務上已逼近行業專家水平,且成本降低約百倍。不過目前測試僅限單輪交付,暫未覆蓋多輪互動。

AI 在各種考試和奧數競賽裡拿高分,早就不是什麼新鮮事了。但對大多數每天打工的人來說,大模型能不能解開一道高數題根本不重要,大家更關心的是:它能不能幫我把手頭這堆爛攤子收拾了?
OpenAI 正式釋出了一個全新的基準測試,名字叫 GDPval。它的核心目的只有一個:不再測大模型會不會做題,而是專門測它們在真實職場中,能不能幹出具有實際經濟價值的工作。
44 個職業,全是拿真實工作產出來考
以往的測試比如 MMLU 像是在考大學入學試卷,即便是後來的 SWE-Bench 也主要侷限在寫程式碼和修 bug。OpenAI 這次乾脆把標準錨定在了宏觀經濟上。
他們先從聖路易斯聯儲的資料中挑出了貢獻美國 GDP 超過 5% 的 9 大核心行業,包括醫療、金融、製造、零售和專業服務等。接著根據美國勞工統計局 2024 年 5 月的就業資料,找出每個行業裡薪酬總額最高、且以腦力勞動為主的職業。
所謂腦力勞動,OpenAI 給出的門檻是:利用美國勞工部的 O*NET 資料庫,只要該職業有 60% 以上的任務不需要在物理世界裡動手,就符合標準。最終他們圈出了 44 個職業。
這裡面不僅有軟體工程師、律師和會計師,還有註冊護士、機械工程師、房產經紀人、新聞記者甚至私人偵探。總共有 1,320 個具體任務,其中 220 個任務作為黃金測試集完全開源。
這些任務不是一兩句簡單的提示詞,而是帶著完整的背景檔案和上下文。大模型需要交付的東西也五花八門,涵蓋法律意見書、工程藍圖、護理計劃、PPT、電子表格和多媒體檔案。
為了出這些考卷,OpenAI 請來了各行業的資深專家,平均從業時間超過 14 年。每個題目平均要經歷 5 輪嚴格稽核,確保它確實是行業裡日常會出現的真活兒。
盲測對比專家,連競品模型也一起拉來考
做完題目之後,怎麼打分也是個難題。OpenAI 依然依賴這些資深專家來進行雙盲評審。
打分專家完全不知道哪份結果是人類寫的,哪份是 AI 生成的。他們要對產出進行挑刺、排序,並明確標記出 AI 的表現到底比人類更好、差不多,還是更差。
除了自家的 GPT-4o、o4-mini、OpenAI o3 和 GPT-5,OpenAI 這次還直接把競品拉到了同一張考卷上,受測模型包括 Claude Opus 4.1、Gemini 2.5 Pro 和 Grok 4。
為了降低未來評估的門檻,OpenAI 還訓練了一個專門用來模仿專家口味的自動評分模型,並在 evals.openai.com 上作為實驗性研究服務開放。不過他們自己也承認,這個自動打分工具目前還不如真人專家靠譜,暫時不能完全取代人工評審。
不過 GDPval 目前也有個明顯的侷限:它目前全是一次性交付的單輪測試。在實際工作中,很少有人能靠一個指令把幾萬字的方案交出來,複雜的任務往往需要反覆溝通、改版和補充背景。OpenAI 表示未來的版本會補上多輪互動的工作流。
為什麼重要
我們認為,GDPval 的釋出意味著 AI 行業的評測標準正在發生一次重要轉向。
長期以來,模型廠商都在刷那些越來越難、但離普通人極度遙遠的學術基準。這種分數除了在技術釋出會上好看,很難回答企業採購者最直接的問題:我花錢買你的 API,到底能省下多少工時?GDPval 第一次把模型能力和真實的經濟產出直接綁在了一起。
對普通打工人來說,這是一份極具參考價值的體檢報告。如果你從事的是這 44 個職業之一,不妨看看這些具體的測試任務。但值不值得現在就把工作全盤託付給 AI?答案顯然是否定的。真實職場的複雜度不僅在於寫出一份漂亮的報告,還在於上下文的理解和反覆修改,單輪測試能拿高分,不代表它在實際流程裡不會翻車。
從行業競爭來看,OpenAI 這一步走得很聰明,它正在試圖定義什麼叫作實用的 AGI。把宏觀經濟指標和自家評測繫結,本質上是在搶佔商業敘事的高地,逼著 Anthropic 和 Google 也必須把評測重心轉移到真實工種上。
但這裡的隱患也同樣明顯。知識工作的核心往往不是一份標準答案,而是人際協作與特定組織的默契。用標準化的交付物來量化 44 個職業的價值,看起來很有說服力,但也可能過早低估了各行業非標準化環節的複雜性。
來源 (1)
- openai.com(在新分頁開啟)原文openai.com