跳到正文
IFAI

開源專案

ornith-ai 開源 Ornith-1.5-122B:單卡可跑,效能叫板 Qwen3.8-Flash-Next

首次發布 傳播指數 48

ornith-ai 在 Hugging Face 上線 MoE 推理模型 Ornith-1.5-122B。該模型採用端到端自改進迴圈訓練,總引數 122B 僅需單張 80GB GPU 即可部署。最值得關注的是,其在 SWE-bench 和 HLE 等程式設計推理測試中大多優於 Qwen3.8-Flash-Next,並提供端側量化版本。

ornith-ai 開源 Ornith-1.5-122B:單卡可跑,效能叫板 Qwen3.8-Flash-Next
圖:huggingface.co

Ornith-1.5-122B 是 ornith-ai 開源的一個 122B 混合專家(MoE)推理模型,主打高強度的程式設計、長文本分析和智慧體任務。

它的上一代 Ornith-1.0 基於 Qwen3.5 和 Gemma4 打造,而這一代推進到了端到端自改進迴圈。它不再依賴人工整理的固定任務集,而是由系統自主生成訓練任務、摸索解題策略,再通過強化學習迭代策略網路,把任務生成、腳手架搭建和解答輸出放在了一起最佳化。

規格與基準表現

模型的總引數量為 122B,啟用引數僅約 10B,最吸引人的是它可以在單張 80GB 視訊記憶體的 GPU 上完成部署。針對移動端場景,官方還同步準備了量化版本 Ornith-1.5-122B-Mobile。

在基準測試中,它面對 125B 的 Qwen3.8-Flash-Next 拿下了多項優勢。在衡量真實程式設計能力的 SWE-bench Pro(防作弊評測)中,Ornith-1.5-122B 拿到了 76.9 分,遠高於 Qwen3.8-Flash-Next 的 43.9 分;在 SWE-bench Verified 上也以 84.5 分稍占上風。

複雜推理基準 HLE(帶工具)評測裡,它以 48.0 分領先 Qwen3.8-Flash-Next 的 38.0 分;在 NL2Repo 程式碼庫生成測試中也取得 51.2 分。不過在 TerminalBench 2.1 終端互動測試中,它拿下 81.2 分,略遜於 Qwen3.8-Flash-Next 的 83.4 分。

作為一個自帶思維鏈的推理模型,它預設會輸出 think 標籤包裹的思考過程,並且原生相容 OpenAI 格式的工具呼叫。

怎麼跑起來

模型權重已經託管在 Hugging Face 社群,同時提供了 Google Colab 與 Kaggle 筆記本映象。

如果你要在本地或者伺服器部署,環境需要較新的執行庫,包括 Transformers 5.8.1、vLLM 0.19.1 或 SGLang 0.5.9 以上版本。

模型原生支援 262,144(256K)tokens 的上下文視窗。如果你有超長文件需求,可以通過掛載 YaRN 將視窗靜態擴充套件 4 倍到 100 萬 tokens。需要提醒的是,靜態 YaRN 會讓普通長度文本的表現輕微下降,短文本場景不建議開啟。

啟動 vLLM 或 SGLang 例項後,直接配合 OpenAI SDK 就能呼叫其聊天與函式呼叫能力。通用任務建議將溫度設為 1.0,高精度程式碼任務建議降到 0.6。

為什麼重要

如果你正在搭建原生代碼助手或多步智慧體,手裡又只有單張 80GB 卡,Ornith-1.5-122B 是目前極具競爭力的開源底座。它省去了跨多卡做張量並行的維護負擔,而且在真實工程報錯修復上的能力相當紮實。

我們認為,它最亮眼的地方在於證明了端到端自改進迴圈的有效性:即使不依賴海量人工清洗的高階語料,依靠閉環的自動化任務生成與強化學習,也能在 122B 這個體量打贏傳統大廠調優模型。不過要在實際業務落地,開發者仍需注意它的推理標記輸出耗時與長上下文下的計算開銷。

來源 (1)

  1. [1]
    huggingface.co(在新分頁開啟)原文huggingface.co

每日 AI 內容精選