跳到正文
IFAI

AI科研

伯克利发布全新智能体基准 ALE:GPT-5.5 险胜 Claude Fable 5 登顶

首次发布 传播指数 31

UC Berkeley 旗下机构联合 300 多位专家推出智能体基准「Agents' Last Exam」(ALE),考核 55 个行业的真实桌面工作流。OpenAI 的 GPT-5.5 凭 24.0% 的通过率位列榜首,略胜 Anthropic 刚发布的 Claude Fable 5。不过在最难一档任务中,所有顶尖模型的得分依然全挂零。

伯克利发布全新智能体基准 ALE:GPT-5.5 险胜 Claude Fable 5 登顶
图:claude.com

过去一年,大模型在各种编程和做题榜单上刷分刷得飞起,但在真实职场里,让 AI 独立干完一个复杂项目,往往还是漏洞百出。

加州大学伯克利分校负责任与去中心化智能中心(RDI)联合 300 多位行业专家,发布了一套名为 Agents' Last Exam(ALE)的全新基准测试。这套测试不考刷题,专门测试 AI 能否完成 55 个行业里真实、具有经济价值的长流程工作。

结果让人大跌眼镜。4 月推出的 OpenAI GPT-5.5 配合 Codex harness,以 24.0% 的通过率拿下榜首。而 Anthropic 昨天刚发布的全新 Mythos 级模型 Claude Fable 5,只拿到 22.0%,屈居第三。

拒绝「作弊」,让 AI 像打工人一样操控电脑

以往的 Agent 测试经常出纰漏。比如在 SWE-Bench Pro 等榜单上,自动化评分容易误判,甚至有模型被抓到直接去翻 Git 历史记录里的答案来「作弊」。

ALE 直接把这些空子堵死了。它要求模型遵循通用计算机使用代理(GCUA)框架,把能力拆解为大脑推理、眼睛视觉、身体调度、双手调用工具以及双脚运行环境五个层面。

AI 不能光在黑底白字的终端里敲命令行,而是要通过视觉和模拟点击,在真实的桌面操作系统里干重活。测试任务全部来自各行业从业者的实际工作,比如在 Siemens NX 里面建 3D 模型、在虚幻引擎里搭建场景、用 FSLeyes 分析神经影像,或者在 Adobe After Effects 里面做特效合成。

更狠的是打分机制。ALE 抛弃了不靠谱的「AI 评判 AI」,仅有 6.8% 的工作流使用大模型打分,其余全部用确定性的代码,把 AI 做出来的成果与专家标准答案逐项比对。

为了防止模型把考题背进训练集,ALE 现有的 1490 个任务中,只有约 10% 放在 GitHub 和 Hugging Face 上公开,剩下的 1300 多个任务严格保密,并通过动态轮换机制让测试长期有效。

顶尖模型在最难关卡集体拿零分

虽然 GPT-5.5 拿了第一,但 24.0% 的通过率说明大家其实都没及格。

第三方分析认为,OpenAI 的模型在执行多步骤、复杂指令时咬得更紧。相比之下,Anthropic 的 Claude 架构经常有点「健忘」,做着做着就漏掉中间某个关键要求,在这种严苛的长链条任务里直接成了致命伤。

ALE 把任务分成三个难度。在最难的 Last-Exam 级别里,包括 Anthropic 的 Claude Opus 4.8 和 Google 的 Gemini CLI 在内,绝大多数模型配置的通过率全是 0.0%。

这说明在代表行业前沿的高难度专业工作面前,现有 AI 连一道题都还没做对。

为什么重要

对于企业和开发者来说,ALE 戳破了过去靠做题榜单营造的幻觉。如果你正打算让 AI Agent 接管复杂的专业软件工作流,现在必须清醒一点:行业最顶级模型的成功率也才两成出头,指望它们独立交付严肃工作还不现实,人机协同依然是唯一的选择。

对行业竞争而言,这场测试逼着大家把战场从「黑灯瞎火跑脚本」转移到「真实桌面长流程」。OpenAI 凭借老模型反超 Anthropic 的新旗舰,说明大模型在纯逻辑推理之外,抗遗忘能力和复杂指令遵循才是 Agent 落地的分水岭,这会倒逼所有大模型厂商重新审视后训练的重心。

我们认为,ALE 最聪明的地方在于斩断了评测污染和模糊判分。它把 90% 的题目藏起来定期轮换,并用确定性代码取代主观打分,让刷分变成了不可能的事。这套基准就像一块试金石,终于把 AI 的实际生产力拉回到了真实的地表。

来源 (1)

  1. [1]
    venturebeat.com(在新标签页打开)原文venturebeat.com

每日 AI 内容精选