跳到正文
IFAI

產業動態

Andrej Karpathy 加入 Anthropic:重返前沿大模型研發一線

首次發布 傳播指數 56

前 Tesla AI 總監兼 OpenAI 聯合創始人 Andrej Karpathy 宣佈加入 Anthropic,重返前沿大語言模型研發。他表示未來幾年將是大模型發展的關鍵期,對重回研發團隊感到興奮,同時透露未來仍會繼續推進 AI 教育工作。

Andrej Karpathy 加入 Anthropic:重返前沿大模型研發一線
圖:techcrunch.com

AI 圈子裡最會講課的大佬,最後還是沒能抵擋住前沿大模型研發的誘惑。

前特斯拉 AI 總監、OpenAI 聯合創始人 Andrej Karpathy 在 X 上宣佈,自己已經正式加入 Anthropic。他在帖子裡寫道,未來幾年大模型前沿領域將極具決定性,他非常興奮能重返研發一線。

這也意味著,他在 2024 年離開 OpenAI 後創辦的 AI 教育專案 Eureka Labs 暫時被放慢了腳步。Karpathy 坦言,自己依然對教育充滿熱情,未來找機會還會把這塊做起來,但眼下他的精力已經全面轉向 Anthropic。

組建新團隊:用 Claude 來加速預訓練

這次 Karpathy 去 Anthropic 不是掛名當顧問,而是直接扎進了最硬核的陣地。據 TechCrunch 報道,他已經在 Nick Joseph 帶領的預訓練團隊開始工作。

預訓練是大模型研發裡最燒錢、最費算力的環節,Claude 的核心底座能力基本都來自這個階段。

Anthropic 發言人透露,Karpathy 將負責組建一個專門團隊,核心任務是用 Claude 自身的能力來加速預訓練研究。說白了,就是用現有的頂級模型來做實驗、寫程式碼、排查架構問題,從而反哺下一代模型的預訓練。

Karpathy 在行業裡是少有的既精通深度學習理論、又帶隊跑過超大規模工程訓練的人。從 2017 年加入特斯拉負責 Autopilot 和 FSD,到後來回 OpenAI,再到做自己的開源教程,他在系統工程和研究直覺上的積累都很深。

紅隊同時補強,安全老將進場

除了 Karpathy,Anthropic 本週還引進了另一位重量級人物。擁有超過 20 年網路安全經驗的 Chris Rohlf 宣佈加入 Anthropic 的前沿紅隊,專門針對高危威脅對高階 AI 模型進行壓力測試。

Rohlf 之前在雅虎著名的安全團隊 The Paranoids 待過,在 Meta 幹了 6 年,還是喬治城大學 CSET 的訪問學者。他在 X 上表示,用 AI 大幅改善網路安全是一個實實在在的機會,眼下就是最關鍵的時刻。

一邊在預訓練上拉來 Karpathy 用 AI 做研發,一邊在紅隊防禦上補強老將,Anthropic 的排兵佈陣意圖非常明確。

為什麼重要

對普通開發者和學習者來說,短期內最直接的遺憾可能是 Karpathy 的課要停更一陣了。從 Neural Networks: Zero to Hero 這一套從零手寫程式碼的影片開始,他就是整個 AI 領域最好的啟蒙導師之一,Eureka Labs 的進展估計也要放緩。但如果他是用頂尖 AI 研發的新經驗反哺教育,長遠看未必是壞事。

對行業而言,Anthropic 設立用 Claude 加速預訓練團隊這件事,訊號非常強烈。在算力軍備競賽越來越貴、摩爾定律放緩的當下,單純堆晶片的價效比正在急劇下降。Anthropic 顯然想證明,讓 AI 參與模型自身的研發流程,用智慧化手段最佳化訓練過程,才是抗衡 OpenAI 和 Google 鉅額資本開支的解法。

我們認為,Anthropic 能把 Karpathy 吸引過去,本身就是一次巨大的品牌背書。Karpathy 是 OpenAI 早期元老,他在 OpenAI 和特斯拉都呆過,如今在前沿模型混戰的關鍵節點選擇加入 Dario Amodei 的陣營,說明 Anthropic 內部的技術氛圍和研發基礎設施對頂級研究員極具吸引力。看起來,接下來的前沿模型之爭,已經從單純比拼誰買的 GPU 多,轉向了比拼誰能更快讓 AI 自己參與研發。

來源 (2)

  1. [1]
    @karpathy(在新分頁開啟)原文x.com
  2. [2]
    techcrunch.com(在新分頁開啟)報導techcrunch.com

每日 AI 內容精選