OpenAI 划分 AGI 五级体系:自称已接近具备推理能力的第二级
据彭博社报道,OpenAI 本周向员工公布了一套追踪 AGI 进展的五级框架。层级从当前的对话型 AI 开始,涵盖具备博士级解题能力的「推理者」、能代行数天任务的智能体,直至能承担组织工作的 AI。发言人称其技术已十分接近第二级。
大家都在聊 AGI 什么时候来,但到底走到哪一步了,业内过去其实一直没有统一的标尺。
本周 OpenAI 给出了自己的答案。据彭博社报道,OpenAI 发言人证实,公司内部向员工公布了一套衡量通用人工智能(AGI)进展的五级阶梯系统,并打算把这套标准分享给投资人和外部公众。
这套层级从目前的聊天机器人一直划到了能替代整个组织运转的超级系统。OpenAI 管理层表示,我们现在还处在第一级,但已经无限逼近第二级了。
博士水平与能干几天活的 Agent
按 OpenAI 的划分,第一级是「Conversational AI」(对话式 AI),也就是大家手头每天在用的 ChatGPT,能用自然语言跟你聊天、写写邮件。
第二级叫「Reasoners」(推理者)。OpenAI 将其定义为具备基础问题解决能力的 AI,水平相当于一个拥有博士学位、但手头没有任何辅助工具的人类。知情人士透露,OpenAI 管理层还在内部向员工展示了一个基于 GPT-4 的研究项目,演示了它类似人类的推理能力。
再往上走,第三级被命名为「Agents」(智能体)。这类 AI 的核心能力在于,能够代表用户独立在「数天时间」里连续执行各种复杂操作。
第四级叫「Innovators」(创新者),能够协助人类搞出发明创造;最高一级的第五级则是「Organizations」(组织),代表 AI 可以承担相当于一整个组织或公司的庞大工作量。
OpenAI 称,这套分级体系由公司管理层制定,后续还会根据员工、投资者以及董事会的反馈进行调整。
为什么重要
我们认为,OpenAI 拿出这套梯子,最大的价值不是给 AGI 下定义,而是给市场和投资人划定交付预期。
过去大家对大模型的期待很容易跑偏,一会儿觉得它是个无所不能的打工人,一会儿又嘲笑它连简单的数数都会翻车。有了这套分级,OpenAI 等于在告诉大家:别急着要能干一个礼拜杂活的 Agent,当下真正要攻克的是不靠外挂工具、具备博士级严谨逻辑的「推理」能力。
对开发者和用户来说,这意味着接下来半年的重心依然在逻辑推理和复杂问题拆解上。如果你在等能够全自动接管业务好几天的独立 Agent,现在看来可能还为时过早,因为那属于第三阶段的命题。
不过,这套标准背后也有隐忧。一方面,所谓的「不带工具的博士水平」到底怎么客观量化,OpenAI 并没有给出公开基准,解释权全在自己手里。
另一方面,就在 5 月,OpenAI 刚解散了负责 AI 终极危险应对的超级对齐团队。高层一边在内部展示类似人类推理的最新研究成果,一边给登顶 AGI 倒计时,但在安全防护网的搭建上,外界显然希望看到更多让人放心的细节。
来源 (1)
- qz.com(在新标签页打开)原文qz.com