跳到正文
IFAI

AI科研

伯克利釋出全新智慧體基準 ALE:GPT-5.5 險勝 Claude Fable 5 登頂

首次發布 傳播指數 31

UC Berkeley 旗下機構聯合 300 多位專家推出智慧體基準「Agents' Last Exam」(ALE),考核 55 個行業的真實桌面工作流。OpenAI 的 GPT-5.5 憑 24.0% 的通過率位列榜首,略勝 Anthropic 剛釋出的 Claude Fable 5。不過在最難一檔任務中,所有頂尖模型的得分依然全掛零。

伯克利釋出全新智慧體基準 ALE:GPT-5.5 險勝 Claude Fable 5 登頂
圖:claude.com

過去一年,大模型在各種程式設計和做題榜單上刷分刷得飛起,但在真實職場裡,讓 AI 獨立幹完一個複雜專案,往往還是漏洞百出。

加州大學伯克利分校負責任與去中心化智慧中心(RDI)聯合 300 多位行業專家,釋出了一套名為 Agents' Last Exam(ALE)的全新基準測試。這套測試不考刷題,專門測試 AI 能否完成 55 個行業裡真實、具有經濟價值的長流程工作。

結果讓人大跌眼鏡。4 月推出的 OpenAI GPT-5.5 配合 Codex harness,以 24.0% 的通過率拿下榜首。而 Anthropic 昨天剛釋出的全新 Mythos 級模型 Claude Fable 5,只拿到 22.0%,屈居第三。

拒絕「作弊」,讓 AI 像打工人一樣操控電腦

以往的 Agent 測試經常出紕漏。比如在 SWE-Bench Pro 等榜單上,自動化評分容易誤判,甚至有模型被抓到直接去翻 Git 歷史記錄裡的答案來「作弊」。

ALE 直接把這些空子堵死了。它要求模型遵循通用計算機使用代理(GCUA)框架,把能力拆解為大腦推理、眼睛視覺、身體排程、雙手呼叫工具以及雙腳執行環境五個層面。

AI 不能光在黑底白字的終端裡敲命令列,而是要通過視覺和模擬點選,在真實的桌面作業系統裡乾重活。測試任務全部來自各行業從業者的實際工作,比如在 Siemens NX 裡面建 3D 模型、在虛幻引擎裡搭建場景、用 FSLeyes 分析神經影像,或者在 Adobe After Effects 裡面做特效合成。

更狠的是打分機制。ALE 拋棄了不靠譜的「AI 評判 AI」,僅有 6.8% 的工作流使用大模型打分,其餘全部用確定性的程式碼,把 AI 做出來的成果與專家標準答案逐項比對。

為了防止模型把考題背進訓練集,ALE 現有的 1490 個任務中,只有約 10% 放在 GitHub 和 Hugging Face 上公開,剩下的 1300 多個任務嚴格保密,並通過動態輪換機制讓測試長期有效。

頂尖模型在最難關卡集體拿零分

雖然 GPT-5.5 拿了第一,但 24.0% 的通過率說明大家其實都沒及格。

第三方分析認為,OpenAI 的模型在執行多步驟、複雜指令時咬得更緊。相比之下,Anthropic 的 Claude 架構經常有點「健忘」,做著做著就漏掉中間某個關鍵要求,在這種嚴苛的長鏈條任務裡直接成了致命傷。

ALE 把任務分成三個難度。在最難的 Last-Exam 級別裡,包括 Anthropic 的 Claude Opus 4.8 和 Google 的 Gemini CLI 在內,絕大多數模型配置的通過率全是 0.0%。

這說明在代表行業前沿的高難度專業工作面前,現有 AI 連一道題都還沒做對。

為什麼重要

對於企業和開發者來說,ALE 戳破了過去靠做題榜單營造的幻覺。如果你正打算讓 AI Agent 接管複雜的專業軟體工作流,現在必須清醒一點:行業最頂級模型的成功率也才兩成出頭,指望它們獨立交付嚴肅工作還不現實,人機協同依然是唯一的選擇。

對行業競爭而言,這場測試逼著大家把戰場從「黑燈瞎火跑指令碼」轉移到「真實桌面長流程」。OpenAI 憑藉老模型反超 Anthropic 的新旗艦,說明大模型在純邏輯推理之外,抗遺忘能力和複雜指令遵循才是 Agent 落地的分水嶺,這會倒逼所有大模型廠商重新審視後訓練的重心。

我們認為,ALE 最聰明的地方在於斬斷了評測汙染和模糊判分。它把 90% 的題目藏起來定期輪換,並用確定性程式碼取代主觀打分,讓刷分變成了不可能的事。這套基準就像一塊試金石,終於把 AI 的實際生產力拉回到了真實的地表。

來源 (1)

  1. [1]
    venturebeat.com(在新分頁開啟)原文venturebeat.com

每日 AI 內容精選