跳到正文
IFAI

大模型

百度推出 ERNIE 3.5:中文测试超 ChatGPT,全面支持插件

首次发布 传播指数 56

周二,百度发布大模型 ERNIE 3.5。测试显示该模型在中文等基准测试中超过 ChatGPT 与 GPT 4,并在推理和代码能力上全面提升。新版本还支持插件功能,已集成百度搜索。不过在由美国大学开发的综合测试中,其成绩仍有差距。

百度推出 ERNIE 3.5:中文测试超 ChatGPT,全面支持插件
图:cnbc.com

OpenAI 发布 GPT-4 之后,很多人都在猜国产大模型还要追多久。百度的答案只用了三个月。

百度公布了自家大模型的新版本 Ernie 3.5(文心大模型 3.5)。援引《中国科学报》的数据,文心 3.5 在多个基准测试里超过了 ChatGPT,甚至在中文测试中压过了 OpenAI 最先进的 GPT-4。

从 3 月份文心一言开启内测算起,文心大模型的基础底座在这几个月里完成了一次大版本迭代。

中文考试超车,英文考场偏科

测试结果究竟怎么样,具体拆开来看非常有意思。

第一项测试来自微软发布的评测集,主要考察高考、司法考试这类入学和资格认定考试。在这份考卷里,如果是中文题目,文心 3.5 的表现不仅赢了基于 GPT-3.5 的 ChatGPT,还超过了 GPT-4。但在英文题目里,文心 3.5 虽然赢了 ChatGPT,却依然落后于 GPT-4。

第二项测试主要针对中文语境,包含 50 多个科目的 13000 多道多选题。在这个完全由中文主导的测试中,文心 3.5 同时战胜了 ChatGPT 和 GPT-4。

第三项测试则由美国几所大学联合开发,涵盖科学和人文等多个学科。这回文心 3.5 没能延续优势,成绩落后于 ChatGPT 和 GPT-4。

百度首席技术官王海峰表示,文心一言内测仅三个月后,文心 3.5 就在创作、问答、推理和代码生成上取得了全面提升,训练性能和推理性能也同样得到了优化。

插件生态入场,把搜索装进模型

除了底层跑分,文心 3.5 这次最明显的产品变化是支持了插件机制。

所谓插件,说白了就是给大模型装上各种外部工具。百度已经把自家的搜索能力做成插件接入了文心一言。

这意味着模型不用再完全靠自身参数硬背实时信息,而是可以在生成回答时随时调用搜索引擎抓取最新动态。

为什么重要

对于国内普通用户和企业开发者来说,如果你的业务场景大部分集中在中文公文写作、资格考试备考或者本地化问答上,文心 3.5 确实拿出了现阶段非常能打的表现,配合搜索插件也能明显缓解胡说八道的问题。

但在行业层面,这场测试也清晰划出了中美两家科技巨头的边界。我们认为,百度这一步走得相当务实:先集中资源打透中文这个大本营,在涉及中国高考、司法考题以及本土知识体系的题目上建立护城河。面对阿里等国内对手的追赶,百度需要用成绩单证明自己在技术上的身位。

不过,看起来文心 3.5 依然存在偏科。一旦题目回到海外高校主导的通用综合学科,或者纯英文复杂语境下,GPT-4 的底子依然更扎实。另外,插件这条路 OpenAI 已经在前面踩坑,如何吸引真正高频好用的第三方插件加入,会是百度接下来要面对的现实考验。

来源 (2)

  1. [1]
    research.baidu.com(在新标签页打开)原文research.baidu.com
  2. [2]

话题追踪百度文心一言的发布与推广

这个话题的历次新闻,最新的在上面。

  1. 百度发布文心 4.0:李彦宏称综合能力各方面均不逊于 GPT-4
  2. 百度文心一言获批全面开放:上线 19 小时用户破百万,需国内手机号注册
  3. 百度推出 ERNIE 3.5:中文测试超 ChatGPT,全面支持插件本条

每日 AI 内容精选