扎克伯格確認 Meta 正訓練 Llama 3:年底將囤下 34 萬張 H100 衝刺 AGI
Meta 扎克伯格宣佈正在訓練下一代大模型 Llama 3,重點補齊程式碼生成、推理與規劃能力。為了打造通用人工智慧(AGI),Meta 預計在年底前囤積超 34 萬張輝達 H100 晶片,總算力摺合近 60 萬張 H100,並調整架構讓前沿科研更直接對接數十億產品使用者。

過去一年大家都在聊 AGI,但 Meta 執行長扎克伯格之前很少把這個詞掛在嘴邊。現在他不僅公開改口,還直接亮出了自家最硬的一張王牌。
扎克伯格在社交媒體上正式宣佈,Meta 已經開始訓練下一代旗艦大模型 Llama 3。這一次,他的終極目標就是通用人工智慧(AGI)。為了拿下這個目標,Meta 正掀起一場從組織架構到算力儲備的全方位衝刺。
亮出 34 萬張 H100,不惜代價搶人才
要做頂尖模型,首先得拼算力。扎克伯格在接受 The Verge 專訪時直接秀了肌肉:到 2024 年底,Meta 將擁有超過 34 萬張輝達 H100 GPU。
如果把手裡的 A100 以及其他 AI 晶片全部折算進來,Meta 的總算力規模將達到近 60 萬張 H100 等效算力。第三方資料顯示,Meta 在 2023 年就拿到了約 15 萬張 H100,出貨量與微軟打平,至少是其他同行的三倍以上。扎克伯格直言,Meta 建立的計算能力可能比任何單家公司都要大,只是很多人之前沒意識到。
除了算力,另一個極度稀缺的資源是人才。現在的頂級 AI 研究員年薪動輒開到 100 萬美元以上,各個大廠和風投機構都在搶人。扎克伯格透露,自己經常需要親自出馬,去說服核心人選加盟,或者勸阻自家員工跳槽。
為了讓技術更快落地,Meta 還調整了組織架構。由圖靈獎得主 Yann LeCun 和 Joelle Pineau 帶領的 FAIR 基礎 AI 研究團隊,此前歸屬於技術長 Andrew Bosworth 的 Reality Labs 硬體部門,現在被整體挪到了負責應用業務的 Chris Cox 麾下。這意味著前沿科研將與 Facebook、Instagram 和 WhatsApp 團隊直接併網,服務全球數十億使用者。
從 Llama 2 的教訓到 Llama 3 的野心
談到 Llama 3 的進化方向,扎克伯格坦言吸取了上一代的教訓。
在做 Llama 2 時,團隊曾覺得程式碼能力沒那麼重要,畢竟普通人不會在 WhatsApp 上讓人教寫程式碼。但後來他們發現,程式碼生成本質上是模型理解邏輯體系、知識層級與嚴謹推理的關鍵骨架。因此在 Llama 3 中,程式碼生成、複雜推理與任務規劃能力成了重中之重。
扎克伯格承認,Llama 2 雖然是當時最好的開源模型,但還稱不上整個行業的最前沿。而對於 Llama 3 及其後續版本,Meta 的野心是直接對標行業頂尖水準,甚至成為第一。
在開源策略上,扎克伯格也順便敲打了競爭對手。他暗諷 OpenAI 等公司從最初承諾開源變成了現在的極度封閉,並把封閉包裝成「安全考量」。他認為這其實是聰明的商業把戲:領先者最喜歡呼籲設定安全護欄來限制後來者。不過扎克伯格也留了後手,表示只要合理且負責任,Meta 會傾向於開源,但沒有把 Meta 做出 AGI 後是否開源說死。
至於元宇宙,扎克伯格否認這是戰略掉頭。Meta 每年依然給 Reality Labs 砸下超過 150 億美元,Ray-Ban 智慧眼鏡已經接入了視覺 AI 助手。接下來 Meta 還會上線一個新平臺,讓普通人建立自己的 AI 角色並分發到各個社交應用中。
為什麼重要
我們認為,扎克伯格這次表態最重要的地方,在於徹底確立了 Meta 在 AI 軍備競賽裡的「掀桌者」地位。
對開發者和創業公司來說,這絕對是個好訊息。如果 Meta 真能拿出效能逼近 GPT-4 甚至更強的 Llama 3,並且繼續以近乎開源的形式放出權重,就意味著整個行業不必被閉源巨頭的 API 介面和高昂呼叫費卡住脖子。中小型團隊可以基於 Llama 3 定製專屬模型,本地部署與私有化落地的門檻會被進一步打下來。
對行業競爭格局而言,這也是一次極具威力的降維打擊。Meta 不靠直接賣大模型 API 賺錢,它的核心現金牛是社交網路廣告。它把頂尖模型開源,說白了就是在把對手的核心資產「商品化」乃至「免費化」。OpenAI、Google 和 Anthropic 必須在商業化上承受更大的定價壓力,而 Meta 藉此吸引全球最聰明的開發者幫自己打磨生態,反哺自家的硬體與社交產品。
當然,這裡面也有隱患。Meta 囤積 34 萬張 H100 的底氣來源於極其雄厚的財力,這進一步拉大了巨頭與普通玩家之間的算力鴻溝。而且扎克伯格自己也承認,未來如果真的做出了 AGI,是否開源完全取決於他的個人決定。開源看起來是他的戰術武器,但最終生態的走向,依然掌握在單一大股東手裡。
來源 (3)
- instagram.com(在新分頁開啟)原文instagram.com
- theverge.com(在新分頁開啟)報導theverge.com
- axios.com(在新分頁開啟)報導axios.com
話題追蹤Meta Llama 3 的開發與釋出
- Meta 釋出開源模型 Llama 3:推 8B 和 70B 版本,訓練資料達 15T
- Meta 確認:開源大模型 Llama 3 下個月內正式推出
- 扎克伯格確認 Meta 正訓練 Llama 3:年底將囤下 34 萬張 H100 衝刺 AGI本則