跳到正文
IFAI

大模型

Claude 3 Opus 登顶 Chatbot Arena:首次超越 GPT-4 终结一年霸榜

首次发布 传播指数 60

周二,Anthropic 旗下大模型 Claude 3 Opus 在盲测天梯榜 Chatbot Arena 上首次超越 OpenAI 的 GPT-4 登顶。自 2023 年 5 月以来,GPT-4 系列一直稳居榜首。这也是首次有非 OpenAI 厂商的模型拿下王座,其轻量级模型 Haiku 同样表现抢眼。

Claude 3 Opus 登顶 Chatbot Arena:首次超越 GPT-4 终结一年霸榜
图:arstechnica.com

在大模型领域,过去将近一年里一直有个心照不宣的常识:不管各家发布会上的跑分吹得有多神,只要拉到真刀真枪的盲测榜单上,排在第一的永远是 OpenAI 的 GPT-4。

但在周二,这个神话被打破了。Anthropic 的旗舰大模型 Claude 3 Opus 在 Chatbot Arena 盲测榜单上首次超越了 GPT-4,拿下了总榜第一。开发者 Nick Dobos 在社交媒体上发了句感慨:「国王已死,GPT-4 安息吧。」

谁更好用,全凭网友盲测的「体感」

对于不太熟悉这个榜单的人来说,Chatbot Arena 是由加州大学伯克利分校、加州大学圣地亚哥分校和卡内基梅隆大学学生及教员联合成立的 LMSYS 组织运营的。

它的规则极其简单粗暴:用户输入一段提示词,屏幕上左右并排出现两个匿名模型的回答。哪个回答更好全由用户主观评判,评完之后才会揭晓模型名称。通过成千上万次这样的双盲对决,平台聚合计算出全网公认的胜率排名。

由于大模型在标准基准测试里经常存在刷题和过度拟合的嫌疑,这种全凭人类主观「体感」打出来的分数,反倒成了业内最看重的一块试金石。

从 2023 年 5 月 GPT-4 进驻 Chatbot Arena 以来,榜首的位置就没换过人。直到这次,Claude 3 Opus 终于在胜率上完成了反超。除了顶配的 Opus,Anthropic 旗下主打轻量高性价比的小模型 Haiku,在榜单上的表现也同样抢眼。

独立 AI 研究员 Simon Willison 指出,这是业内第一次看到最好的模型来自 OpenAI 以外的厂商,做复杂任务有 Opus,讲求成本和效率有 Haiku。但他同时也提醒了一句:GPT-4 已经发布超过一年了,其他人花了一整年才追上来。

为什么重要

对于日常依赖 AI 的用户和开发者来说,这意味着打破 OpenAI 路径依赖的时机已经成熟。我们认为,Claude 3 无论是在长文本理解、复杂指令遵循,还是在代码编写的细腻程度上,目前都完全担得起主力的角色,许多人甚至已经把日常主力工作流从 ChatGPT 迁到了 Claude。

对整个行业而言,这次易主就像是推倒了一张关键多米诺骨牌。过去一年,OpenAI 的统治地位让它拥有绝对的定价权和节奏控制权;而现在,竞争对手不仅在产品力上赶平,背后的弹药也极其充足,比如亚马逊刚刚又向 Anthropic 追加了 27.5 亿美元投资。

不过,看起来 Anthropic 的王座坐得并不会太安稳。Claude 3 的这次胜利,很大程度上是因为打中了一个时间差:它击败的是已经发布一整年的 GPT-4,而不是完全体的新一代基座。

随着谷歌的追赶和开源阵营的逼近,行业焦距已经彻底转移到了 OpenAI 身上。外界普遍预计 OpenAI 会在今年拿出 GPT-4 的真正继任者,如果下一代模型再次拉开代差,这种短暂的反超就只是一次中场休息;但至少在当下,大模型市场终于告别了一家独大的沉闷时代。

来源 (1)

  1. [1]
    arstechnica.com(在新标签页打开)原文arstechnica.com

话题追踪Anthropic Claude 3 系列

这个话题的历次新闻,最新的在上面。

  1. Claude 3 Opus 登顶 Chatbot Arena:首次超越 GPT-4 终结一年霸榜本条
  2. Anthropic 发布 Claude 3 系列:最强版 Opus 跑分反超同行

每日 AI 内容精选