開源模型新霸主：Abacus AI 推出 Smaug-72B，多項基準超 GPT-3.5

Smaug-72B 是初創公司 Abacus AI 開源的 720 億引數大語言模型。如果你正在尋找能在本地或私有云部署、推理能力硬碰商業專有模型的大底座，它是目前在公認測試榜單上跑分最高的開源選擇。

它不是從零從頭訓出來的全新模型，而是基於阿里巴巴研究團隊此前釋出的 Qwen-72B 微調而來。在 Hugging Face 的 Open LLM 評測排行榜上，Smaug-72B 拿下了超過 80 分的平均分，成為該榜單建立以來第一個跨過 80 分門檻的開源模型。

它能做什麼與跑分表現

根據官方測試資料，Smaug-72B 在多個核心自然語言理解與生成任務上，不僅明顯拉開了與底座 Qwen-72B 的差距，還在主流基準上超越了 OpenAI 的閉源模型 GPT-3.5 以及 Mistral 的主力專有模型 Mistral Medium。

它最突出的優勢在於複雜邏輯推理與數學計算。Abacus AI 執行長 Bindu Reddy 透露，團隊在微調階段專門針對大語言模型的推理薄弱點設計了技術方案，尤其大幅拉高了 GSM8K 這類數學基準的得分。

雖然目前該模型的均分距離人類水平參考標準的 90 到 100 分仍有差距，但對於一個完全公開權重的 72B 級別模型來說，在標準基準上直接叫板閉源旗艦，已經是開源領域的一大跨步。

怎麼做到的與開源狀態

Abacus AI 這次的核心動作在於微調方法的改進。團隊表示具體的微調演算法和技術細節將在近期以學術論文形式正式公開，未來還計劃將同樣的推理最佳化技術遷移到其他頂尖開源底座上，比如基於 LLaMA-2 微調的 70B 模型 miqu 等。

目前 Smaug-72B 的權重已經完全託管在 Hugging Face 平臺，任何開發者或企業團隊都可以直接下載、微調以及二次修改。除了 Hugging Face 榜單，團隊還準備將其提交到 LMSYS 的人類盲測評測榜單（Chatbot Arena）中接受實際對抗測試。

硬體門檻方面，畢竟是 72B 級別的大塊頭，全精度載入需要多張專業算力卡。不過藉助量化技術（如 4-bit 或 8-bit），它也能被放進高配雙卡工作站或單張大視訊記憶體專業卡里執行。

為什麼重要

如果你是一家有嚴格資料合規要求、無法呼叫雲端商業 API 的企業，或者需要自建高難度問答與程式碼推理工作流的開發者，Smaug-72B 是目前非常值得放進選型池的開源底座。它證明了不需要動用千萬美元重頭預訓練，針對性強的後訓練和微調同樣能把成熟底座榨出接近甚至超越商業模型的效果。

不過，測試基準高並不完全等同於真實業務場景下的體驗。過去不少高分微調模型在面對多輪複雜對話或開放式創作時容易出現風格過擬合，我們建議開發者在正式替換生產環境的 GPT-3.5 介面前，先用自己的真實業務提示詞做一輪端到端驗證。