跳到正文
IFAI

行业动态

Andrej Karpathy 加入 Anthropic:重返前沿大模型研发一线

首次发布 传播指数 56

前 Tesla AI 总监兼 OpenAI 联合创始人 Andrej Karpathy 宣布加入 Anthropic,重返前沿大语言模型研发。他表示未来几年将是大模型发展的关键期,对重回研发团队感到兴奋,同时透露未来仍会继续推进 AI 教育工作。

Andrej Karpathy 加入 Anthropic:重返前沿大模型研发一线
图:techcrunch.com

AI 圈子里最会讲课的大佬,最后还是没能抵挡住前沿大模型研发的诱惑。

前特斯拉 AI 总监、OpenAI 联合创始人 Andrej Karpathy 在 X 上宣布,自己已经正式加入 Anthropic。他在帖子里写道,未来几年大模型前沿领域将极具决定性,他非常兴奋能重返研发一线。

这也意味着,他在 2024 年离开 OpenAI 后创办的 AI 教育项目 Eureka Labs 暂时被放慢了脚步。Karpathy 坦言,自己依然对教育充满热情,未来找机会还会把这块做起来,但眼下他的精力已经全面转向 Anthropic。

组建新团队:用 Claude 来加速预训练

这次 Karpathy 去 Anthropic 不是挂名当顾问,而是直接扎进了最硬核的阵地。据 TechCrunch 报道,他已经在 Nick Joseph 带领的预训练团队开始工作。

预训练是大模型研发里最烧钱、最费算力的环节,Claude 的核心底座能力基本都来自这个阶段。

Anthropic 发言人透露,Karpathy 将负责组建一个专门团队,核心任务是用 Claude 自身的能力来加速预训练研究。说白了,就是用现有的顶级模型来做实验、写代码、排查架构问题,从而反哺下一代模型的预训练。

Karpathy 在行业里是少有的既精通深度学习理论、又带队跑过超大规模工程训练的人。从 2017 年加入特斯拉负责 Autopilot 和 FSD,到后来回 OpenAI,再到做自己的开源教程,他在系统工程和研究直觉上的积累都很深。

红队同时补强,安全老将进场

除了 Karpathy,Anthropic 本周还引进了另一位重量级人物。拥有超过 20 年网络安全经验的 Chris Rohlf 宣布加入 Anthropic 的前沿红队,专门针对高危威胁对高级 AI 模型进行压力测试。

Rohlf 之前在雅虎著名的安全团队 The Paranoids 待过,在 Meta 干了 6 年,还是乔治城大学 CSET 的访问学者。他在 X 上表示,用 AI 大幅改善网络安全是一个实实在在的机会,眼下就是最关键的时刻。

一边在预训练上拉来 Karpathy 用 AI 做研发,一边在红队防御上补强老将,Anthropic 的排兵布阵意图非常明确。

为什么重要

对普通开发者和学习者来说,短期内最直接的遗憾可能是 Karpathy 的课要停更一阵了。从 Neural Networks: Zero to Hero 这一套从零手写代码的视频开始,他就是整个 AI 领域最好的启蒙导师之一,Eureka Labs 的进展估计也要放缓。但如果他是用顶尖 AI 研发的新经验反哺教育,长远看未必是坏事。

对行业而言,Anthropic 设立用 Claude 加速预训练团队这件事,信号非常强烈。在算力军备竞赛越来越贵、摩尔定律放缓的当下,单纯堆芯片的性价比正在急剧下降。Anthropic 显然想证明,让 AI 参与模型自身的研发流程,用智能化手段优化训练过程,才是抗衡 OpenAI 和 Google 巨额资本开支的解法。

我们认为,Anthropic 能把 Karpathy 吸引过去,本身就是一次巨大的品牌背书。Karpathy 是 OpenAI 早期元老,他在 OpenAI 和特斯拉都呆过,如今在前沿模型混战的关键节点选择加入 Dario Amodei 的阵营,说明 Anthropic 内部的技术氛围和研发基础设施对顶级研究员极具吸引力。看起来,接下来的前沿模型之争,已经从单纯比拼谁买的 GPU 多,转向了比拼谁能更快让 AI 自己参与研发。

来源 (2)

  1. [1]
    @karpathy(在新标签页打开)原文x.com
  2. [2]
    techcrunch.com(在新标签页打开)报道techcrunch.com

每日 AI 内容精选