ornith-ai 开源 Ornith-1.5-122B:单卡可跑,性能叫板 Qwen3.8-Flash-Next
ornith-ai 在 Hugging Face 上线 MoE 推理模型 Ornith-1.5-122B。该模型采用端到端自改进循环训练,总参数 122B 仅需单张 80GB GPU 即可部署。最值得关注的是,其在 SWE-bench 和 HLE 等编程推理测试中大多优于 Qwen3.8-Flash-Next,并提供端侧量化版本。

Ornith-1.5-122B 是 ornith-ai 开源的一个 122B 混合专家(MoE)推理模型,主打高强度的编程、长文本分析和智能体任务。
它的上一代 Ornith-1.0 基于 Qwen3.5 和 Gemma4 打造,而这一代推进到了端到端自改进循环。它不再依赖人工整理的固定任务集,而是由系统自主生成训练任务、摸索解题策略,再通过强化学习迭代策略网络,把任务生成、脚手架搭建和解答输出放在了一起优化。
规格与基准表现
模型的总参数量为 122B,激活参数仅约 10B,最吸引人的是它可以在单张 80GB 显存的 GPU 上完成部署。针对移动端场景,官方还同步准备了量化版本 Ornith-1.5-122B-Mobile。
在基准测试中,它面对 125B 的 Qwen3.8-Flash-Next 拿下了多项优势。在衡量真实编程能力的 SWE-bench Pro(防作弊评测)中,Ornith-1.5-122B 拿到了 76.9 分,远高于 Qwen3.8-Flash-Next 的 43.9 分;在 SWE-bench Verified 上也以 84.5 分稍占上风。
复杂推理基准 HLE(带工具)评测里,它以 48.0 分领先 Qwen3.8-Flash-Next 的 38.0 分;在 NL2Repo 代码库生成测试中也取得 51.2 分。不过在 TerminalBench 2.1 终端交互测试中,它拿下 81.2 分,略逊于 Qwen3.8-Flash-Next 的 83.4 分。
作为一个自带思维链的推理模型,它默认会输出 think 标签包裹的思考过程,并且原生兼容 OpenAI 格式的工具调用。
怎么跑起来
模型权重已经托管在 Hugging Face 社区,同时提供了 Google Colab 与 Kaggle 笔记本镜像。
如果你要在本地或者服务器部署,环境需要较新的运行库,包括 Transformers 5.8.1、vLLM 0.19.1 或 SGLang 0.5.9 以上版本。
模型原生支持 262,144(256K)tokens 的上下文窗口。如果你有超长文档需求,可以通过挂载 YaRN 将窗口静态扩展 4 倍到 100 万 tokens。需要提醒的是,静态 YaRN 会让普通长度文本的表现轻微下降,短文本场景不建议开启。
启动 vLLM 或 SGLang 实例后,直接配合 OpenAI SDK 就能调用其聊天与函数调用能力。通用任务建议将温度设为 1.0,高精度代码任务建议降到 0.6。
为什么重要
如果你正在搭建本地代码助手或多步智能体,手里又只有单张 80GB 卡,Ornith-1.5-122B 是目前极具竞争力的开源底座。它省去了跨多卡做张量并行的维护负担,而且在真实工程报错修复上的能力相当扎实。
我们认为,它最亮眼的地方在于证明了端到端自改进循环的有效性:即使不依赖海量人工清洗的高级语料,依靠闭环的自动化任务生成与强化学习,也能在 122B 这个体量打赢传统大厂调优模型。不过要在实际业务落地,开发者仍需注意它的推理标记输出耗时与长上下文下的计算开销。
来源 (1)
- huggingface.co(在新标签页打开)原文huggingface.co