跳到正文
IFAI

大模型

扎克伯格確認 Meta 正訓練 Llama 3:年底將囤下 34 萬張 H100 衝刺 AGI

首次發布 傳播指數 63

Meta 扎克伯格宣佈正在訓練下一代大模型 Llama 3,重點補齊程式碼生成、推理與規劃能力。為了打造通用人工智慧(AGI),Meta 預計在年底前囤積超 34 萬張輝達 H100 晶片,總算力摺合近 60 萬張 H100,並調整架構讓前沿科研更直接對接數十億產品使用者。

扎克伯格確認 Meta 正訓練 Llama 3:年底將囤下 34 萬張 H100 衝刺 AGI
圖:theverge.com

過去一年大家都在聊 AGI,但 Meta 執行長扎克伯格之前很少把這個詞掛在嘴邊。現在他不僅公開改口,還直接亮出了自家最硬的一張王牌。

扎克伯格在社交媒體上正式宣佈,Meta 已經開始訓練下一代旗艦大模型 Llama 3。這一次,他的終極目標就是通用人工智慧(AGI)。為了拿下這個目標,Meta 正掀起一場從組織架構到算力儲備的全方位衝刺。

亮出 34 萬張 H100,不惜代價搶人才

要做頂尖模型,首先得拼算力。扎克伯格在接受 The Verge 專訪時直接秀了肌肉:到 2024 年底,Meta 將擁有超過 34 萬張輝達 H100 GPU。

如果把手裡的 A100 以及其他 AI 晶片全部折算進來,Meta 的總算力規模將達到近 60 萬張 H100 等效算力。第三方資料顯示,Meta 在 2023 年就拿到了約 15 萬張 H100,出貨量與微軟打平,至少是其他同行的三倍以上。扎克伯格直言,Meta 建立的計算能力可能比任何單家公司都要大,只是很多人之前沒意識到。

除了算力,另一個極度稀缺的資源是人才。現在的頂級 AI 研究員年薪動輒開到 100 萬美元以上,各個大廠和風投機構都在搶人。扎克伯格透露,自己經常需要親自出馬,去說服核心人選加盟,或者勸阻自家員工跳槽。

為了讓技術更快落地,Meta 還調整了組織架構。由圖靈獎得主 Yann LeCun 和 Joelle Pineau 帶領的 FAIR 基礎 AI 研究團隊,此前歸屬於技術長 Andrew Bosworth 的 Reality Labs 硬體部門,現在被整體挪到了負責應用業務的 Chris Cox 麾下。這意味著前沿科研將與 Facebook、Instagram 和 WhatsApp 團隊直接併網,服務全球數十億使用者。

從 Llama 2 的教訓到 Llama 3 的野心

談到 Llama 3 的進化方向,扎克伯格坦言吸取了上一代的教訓。

在做 Llama 2 時,團隊曾覺得程式碼能力沒那麼重要,畢竟普通人不會在 WhatsApp 上讓人教寫程式碼。但後來他們發現,程式碼生成本質上是模型理解邏輯體系、知識層級與嚴謹推理的關鍵骨架。因此在 Llama 3 中,程式碼生成、複雜推理與任務規劃能力成了重中之重。

扎克伯格承認,Llama 2 雖然是當時最好的開源模型,但還稱不上整個行業的最前沿。而對於 Llama 3 及其後續版本,Meta 的野心是直接對標行業頂尖水準,甚至成為第一。

在開源策略上,扎克伯格也順便敲打了競爭對手。他暗諷 OpenAI 等公司從最初承諾開源變成了現在的極度封閉,並把封閉包裝成「安全考量」。他認為這其實是聰明的商業把戲:領先者最喜歡呼籲設定安全護欄來限制後來者。不過扎克伯格也留了後手,表示只要合理且負責任,Meta 會傾向於開源,但沒有把 Meta 做出 AGI 後是否開源說死。

至於元宇宙,扎克伯格否認這是戰略掉頭。Meta 每年依然給 Reality Labs 砸下超過 150 億美元,Ray-Ban 智慧眼鏡已經接入了視覺 AI 助手。接下來 Meta 還會上線一個新平臺,讓普通人建立自己的 AI 角色並分發到各個社交應用中。

為什麼重要

我們認為,扎克伯格這次表態最重要的地方,在於徹底確立了 Meta 在 AI 軍備競賽裡的「掀桌者」地位。

對開發者和創業公司來說,這絕對是個好訊息。如果 Meta 真能拿出效能逼近 GPT-4 甚至更強的 Llama 3,並且繼續以近乎開源的形式放出權重,就意味著整個行業不必被閉源巨頭的 API 介面和高昂呼叫費卡住脖子。中小型團隊可以基於 Llama 3 定製專屬模型,本地部署與私有化落地的門檻會被進一步打下來。

對行業競爭格局而言,這也是一次極具威力的降維打擊。Meta 不靠直接賣大模型 API 賺錢,它的核心現金牛是社交網路廣告。它把頂尖模型開源,說白了就是在把對手的核心資產「商品化」乃至「免費化」。OpenAI、Google 和 Anthropic 必須在商業化上承受更大的定價壓力,而 Meta 藉此吸引全球最聰明的開發者幫自己打磨生態,反哺自家的硬體與社交產品。

當然,這裡面也有隱患。Meta 囤積 34 萬張 H100 的底氣來源於極其雄厚的財力,這進一步拉大了巨頭與普通玩家之間的算力鴻溝。而且扎克伯格自己也承認,未來如果真的做出了 AGI,是否開源完全取決於他的個人決定。開源看起來是他的戰術武器,但最終生態的走向,依然掌握在單一大股東手裡。

來源 (3)

  1. [1]
    instagram.com(在新分頁開啟)原文instagram.com
  2. [2]
    theverge.com(在新分頁開啟)報導theverge.com
  3. [3]

話題追蹤Meta Llama 3 的開發與釋出

這個話題的歷次新聞,最新的在上面。

  1. Meta 釋出開源模型 Llama 3:推 8B 和 70B 版本,訓練資料達 15T
  2. Meta 確認:開源大模型 Llama 3 下個月內正式推出
  3. 扎克伯格確認 Meta 正訓練 Llama 3:年底將囤下 34 萬張 H100 衝刺 AGI本則

每日 AI 內容精選