开源模型新霸主：Abacus AI 推出 Smaug-72B，多项基准超 GPT-3.5

Smaug-72B 是初创公司 Abacus AI 开源的 720 亿参数大语言模型。如果你正在寻找能在本地或私有云部署、推理能力硬碰商业专有模型的大底座，它是目前在公认测试榜单上跑分最高的开源选择。

它不是从零从头训出来的全新模型，而是基于阿里巴巴研究团队此前发布的 Qwen-72B 微调而来。在 Hugging Face 的 Open LLM 评测排行榜上，Smaug-72B 拿下了超过 80 分的平均分，成为该榜单建立以来第一个跨过 80 分门槛的开源模型。

它能做什么与跑分表现

根据官方测试数据，Smaug-72B 在多个核心自然语言理解与生成任务上，不仅明显拉开了与底座 Qwen-72B 的差距，还在主流基准上超越了 OpenAI 的闭源模型 GPT-3.5 以及 Mistral 的主力专有模型 Mistral Medium。

它最突出的优势在于复杂逻辑推理与数学计算。Abacus AI 首席执行官 Bindu Reddy 透露，团队在微调阶段专门针对大语言模型的推理薄弱点设计了技术方案，尤其大幅拉高了 GSM8K 这类数学基准的得分。

虽然目前该模型的均分距离人类水平参考标准的 90 到 100 分仍有差距，但对于一个完全公开权重的 72B 级别模型来说，在标准基准上直接叫板闭源旗舰，已经是开源领域的一大跨步。

怎么做到的与开源状态

Abacus AI 这次的核心动作在于微调方法的改进。团队表示具体的微调算法和技术细节将在近期以学术论文形式正式公开，未来还计划将同样的推理优化技术迁移到其他顶尖开源底座上，比如基于 LLaMA-2 微调的 70B 模型 miqu 等。

目前 Smaug-72B 的权重已经完全托管在 Hugging Face 平台，任何开发者或企业团队都可以直接下载、微调以及二次修改。除了 Hugging Face 榜单，团队还准备将其提交到 LMSYS 的人类盲测评测榜单（Chatbot Arena）中接受实际对抗测试。

硬件门槛方面，毕竟是 72B 级别的大块头，全精度加载需要多张专业算力卡。不过借助量化技术（如 4-bit 或 8-bit），它也能被放进高配双卡工作站或单张大显存专业卡里运行。

为什么重要

如果你是一家有严格数据合规要求、无法调用云端商业 API 的企业，或者需要自建高难度问答与代码推理工作流的开发者，Smaug-72B 是目前非常值得放进选型池的开源底座。它证明了不需要动用千万美元重头预训练，针对性强的后训练和微调同样能把成熟底座榨出接近甚至超越商业模型的效果。

不过，测试基准高并不完全等同于真实业务场景下的体验。过去不少高分微调模型在面对多轮复杂对话或开放式创作时容易出现风格过拟合，我们建议开发者在正式替换生产环境的 GPT-3.5 接口前，先用自己的真实业务提示词做一轮端到端验证。