跳到正文
IFAI

開源專案

Meta 曬 Llama 戰報:總下載逼近 3.5 億次,雲端用量兩個月翻倍

首次發布 傳播指數 54

Meta 公佈 Llama 最新資料:在 Hugging Face 累計下載量逼近 3.5 億次,較去年增長超 10 倍。5 到 7 月間主要雲平臺的 token 用量翻了一倍,8 月甚至以 405B 旗艦版獨立使用者最多。開源大模型正在真正變成企業基建。

Meta 曬 Llama 戰報:總下載逼近 3.5 億次,雲端用量兩個月翻倍
圖:ai.meta.com

Llama 是 Meta 開源的大語言模型家族,最新版本 Llama 3.1 涵蓋了從輕量級到 405B 引數的旗艦規格,支援 128K 上下文和 8 種新增語言,能幫開發者在本地或雲端搭建高精度對話、數學計算、多語言翻譯和複雜的自主智慧體。

Meta 披露了這套開源生態的最新資料。在 Hugging Face 上,Llama 系列累計下載量已逼近 3.5 億次,相比一年前增長超過 10 倍,單是過去一個月下載量就超過 2000 萬次。社群基於它二次開發的衍生模型也已經突破 6 萬個。

它是怎麼跑起來的

這套工具之所以能被大規模鋪開,關鍵在於 Meta 沒有把開源侷限在幾份權重檔案上,而是把它做成了一套完整的參考架構。Llama 3.1 提供了現成的安全與防禦工具包,並直接開放了構建智慧體的工作流。

從執行門檻來看,小尺寸版本可以在普通工作站甚至消費級硬體上直接部署微調;而引數量達 405B 的超大模型,則主要依託雲廠商叢集提供算力支撐。

根據 Meta 的統計,主要雲服務商託管的 Llama 平臺,在 2024 年 5 到 7 月間的 token 使用量翻了一倍以上。從 2024 年 1 月到 7 月,部分頭部雲平臺的月使用量甚至暴漲了 10 倍。

更有意思的是硬體與部署端的反饋。8 月份在某家主要雲服務商上,獨立使用者數最多的居然是 405B 旗艦版。Databricks 表示 Llama 3.1 是其平臺上有史以來採用速度最快、銷量最好的開源模型,而 Groq 也透露其 LPU 每天正為超過 40 萬名開發者處理 50 億 token。

到哪裡去試

目前開發者可以直接從 Hugging Face 或 Meta 官網下載模型權重和程式碼,也可以在 AWS、Azure、Google Cloud、Databricks 等主流雲平臺上直接呼叫現成 API。

除了中小團隊,高盛、Shopify、DoorDash、Spotify 和 Zoom 等大公司,以及畢馬威、印孚瑟斯等諮詢巨頭,都已經把它接入了內部業務管線。

為什麼重要

對於打算自建 AI 應用的團隊來說,Llama 3.1 證明了完全私有化部署並不意味著要在模型能力上妥協。405B 版本在各項能力上抹平了開源與閉源頂尖模型之間的代差,讓你既能擁有完整的資料控制權,又不需要從頭預訓練一個底座。

我們認為,Meta 這套打法的厲害之處在於通過極具進攻性的開源策略,把大模型底座迅速商品化,直接逼迫閉源巨頭打價格戰。不過對中小開發者而言,405B 這樣的龐然大物在本地推理的視訊記憶體成本依然高昂,大部分人真正能日常用起來的,可能還是依靠社群蒸餾和量化後的小尺寸版本。

來源 (2)

  1. [1]
    ai.meta.com(在新分頁開啟)原文ai.meta.com
  2. [2]

話題追蹤Meta 的 Llama 戰略轉型

這個話題的歷次新聞,最新的在上面。

  1. 扎克伯格全面押注 Llama:從元宇宙泥潭到開源大模型逆襲
  2. Meta 曬 Llama 戰報:總下載逼近 3.5 億次,雲端用量兩個月翻倍本則

每日 AI 內容精選