Meta 釋出 Llama 3.3 70B:用 70B 成本跑出 405B 效能
Meta 正式釋出純文本模型 Llama 3.3 70B。官方稱其通過最新後訓練技術,以更低成本實現了 405B 旗艦模型的效能,並在 MMLU 等基準測試中超越 GPT-4o。模型已可在 Hugging Face 等平臺下載商用。

Llama 3.3 70B 是 Meta 最新開源的純文本大模型,核心賣點很簡單:讓你用 70B 模型的視訊記憶體和部署成本,跑出此前 405B 頂級旗艦的效能。
這意味著你不再需要動用極其昂貴的計算叢集,就能在本地或私有云中獲得行業第一梯隊的文本處理與推理能力。
它能做什麼
根據 Meta 生成式 AI 副總裁 Ahmad Al-Dahle 公佈的資料,Llama 3.3 70B 在多項行業基準測試中表現亮眼。在衡量語言理解綜合能力的 MMLU 上,它直接超越了 Google 的 Gemini 1.5 Pro、OpenAI 的 GPT-4o 以及亞馬遜新推出的 Nova Pro。
Meta 官方表示,該模型在數學計算、常識問答、複雜指令遵循以及應用呼叫等方面都有明顯提升。
對於需要搭建高可靠智慧體、處理複雜工作流的團隊來說,它提供了一個幾乎沒有縮水的通用語言底座。
怎麼做到的與開源限制
把 405B 級別的戰力塞進 70B 體積裡,關鍵在於後訓練技術的進步。
Al-Dahle 透露,團隊這次利用了包括線上偏好最佳化在內的最新後訓練方案,在不盲目堆疊引數的前提下,大幅壓榨並提煉了模型的核心潛能。
目前 Llama 3.3 70B 的權重已經在 Hugging Face 和 Llama 官網全面開放下載。
授權協議依然延續了 Meta 的慣例:對絕大多數開發者和企業免費開放商用,但月活躍使用者超過 7 億的超大型平臺,必須單獨向 Meta 申請許可。
為什麼重要
如果你手頭有本地部署或私有化微調的需求,Llama 3.3 70B 是目前最值得立刻上手測試的開源模型。在此之前,405B 模型雖然強大,但極高的硬體門檻讓大多數中小型團隊望而卻步;70B 的規格則讓主流的多卡伺服器重新有了用武之地。
我們認為,這一步把開源陣營的實用價效比推到了新高度。它證明了純靠後訓練的精細打磨,開源小尺寸模型也能在基準上硬剛頂級商業閉源模型,給開發者提供了一個真正好用且跑得起的獨立備選。
來源 (1)
- techcrunch.com(在新分頁開啟)原文techcrunch.com