跳到正文
IFAI

大模型

阿里開源推理模型 QwQ-32B-Preview:對標 OpenAI o1

首次發布 傳播指數 59

阿里通義團隊釋出推理模型 QwQ-32B-Preview。該模型擁有 325 億引數,在 AIME 和 MATH 測試中跑贏 OpenAI o1-preview。模型採用 Apache 2.0 協議開源,不過阿里也指出它可能出現意外切換語言或陷入迴圈等問題。

阿里開源推理模型 QwQ-32B-Preview:對標 OpenAI o1
圖:techcrunch.com

QwQ-32B-Preview 是阿里通義團隊剛放出來的一個開源推理模型,專門用來啃複雜的數學題和邏輯謎題,直接對標 OpenAI 的 o1 系列。

你可以把它理解為一個會「自言自語、深度反思」的思考型模型。面對難題時,它不會急著吐出第一個詞,而是先在後臺一步步拆解、推導並自我檢查,甚至反覆質疑自己的結論,直到理出完整的解答路徑。

它能做什麼,實力怎麼樣

這個模型擁有 325 億(32.5B)引數,支援最高約 32000 詞(32K)的長上下文。

根據阿里給出的測試成績,QwQ-32B-Preview 在 AIME 和 MATH 這兩個高難度數學測試上跑贏了 OpenAI 的 o1-preview,在多個核心基準上也勝過了 o1-mini。

它特別擅長處理需要多步推演的邏輯鏈條,在程式設計和數學場景下展現出了紮實的深度推理能力。

不過,目前它還頂著「Preview」的字尾,毛刺不少。阿里在官方說明裡很坦白地指出了幾大缺陷:它偶爾會在回答中意外混雜不同語言,推理推著推著可能陷入死迴圈,遇到依賴常識的日常推理任務時反而表現平平。

另外在某些特定敏感話題上,它的輸出也會受到相應合規限制或直接拒絕作答。

怎麼跑起來與開放程度

模型已經上線 Hugging Face,程式碼和權重以 Apache 2.0 協議開源,允許用於商業專案。

作為 32B 規模的模型,它比那些動輒幾百億甚至閉源的龐然大物輕巧得多,開發者可以在單張或少量消費級/專業級顯示卡上通過量化手段跑起來,或者在 Hugging Face 平臺上直接體驗。

不過需要提醒的是,阿里這次只放出了模型的部分核心元件,完整的訓練細節和資料並沒有完全公開。你沒法從零復刻出整個訓練流程,但拿它來本地部署、微調或做下游開發已經完全夠用。

為什麼重要

如果你是正在做數學工具、程式碼助手或者自動化複雜邏輯的開發者,QwQ-32B-Preview 非常值得馬上下載試一試。過去想要 o1 級別的逐步思考能力,只能老老實實呼叫 OpenAI 昂貴且閉源的 API,現在開源社群終於有了可以直接部署到本地的平替玩具。

和純閉源的 o1 相比,它最大的優勢在成本與自主可控,雖然日常常識和語言穩定性還不如商業成熟版,但在垂直解題能力上已經咬得極緊。隨著國內團隊和開源陣營快速跟進測試時計算(test-time compute),OpenAI 的推理護城河,看起來正在被迅速抹平。

來源 (1)

  1. [1]
    techcrunch.com(在新分頁開啟)原文techcrunch.com

話題追蹤QwQ 推理模型系列

這個話題的歷次新聞,最新的在上面。

  1. Qwen 正式上線 QwQ-32B:320 億引數推理模型,對標 DeepSeek-R1
  2. Qwen 亮相 QwQ-Max 預覽版:主打深度推理,後續將開源 32B 版本
  3. 阿里開源推理模型 QwQ-32B-Preview:對標 OpenAI o1本則

每日 AI 內容精選