微博開源 VibeThinker-1.5B:僅花 7800 美元,數學推理逼近大模型
微博 AI 開源 15 億引數模型 VibeThinker-1.5B,總訓練成本僅 7800 美元。該模型在 AIME24 等數學基準上超越早期 DeepSeek R1,展現出極高的引數效率。官方建議將其用於英文演算法題與競賽數學,暫不推薦日常通用任務。

VibeThinker-1.5B 是微博 AI 開源的一個 15 億引數小模型,專門用來啃高難度的演算法題和競賽數學題。
它的總訓練成本只有 7800 美元,底座基於 Qwen2.5-1.5B 構建。別看它體量小,跑出來的推理成績卻直接衝著大模型去了。
它能做什麼
微博 AI 給它的定位非常明確,就是用來做高難度的數學推導與演算法程式設計,比如解決 LeetCode 和 Codeforces 風格的題目。
在基準測試中,它的表現相當亮眼。在 AIME24、AIME25 和 HMMT25 三個數學競賽基準上,它分別拿下了 80.3、74.4 和 50.4 分。
這個成績全面超越了引數量是其 400 多倍的早期 DeepSeek R1,後者的三項得分分別為 79.8、70.0 和 41.7 分。官方表示它的推理表現已經能媲美 GPT OSS-20B Medium。
在程式碼生成方面,它在 LiveCodeBench v5 拿到 55.9 分,在 v6 拿到 51.1 分,略微領先 Magistral Medium 的 50.3 分。
不過要說明的是,這是一個探索小模型極限的實驗性專案。官方明確提醒,它目前只適合用英文提問競賽數學和程式碼題,不建議拿來做日常的閒聊、寫作或通用任務。
怎麼做到的與怎麼跑起來
能用不到 8000 美元訓出這種推理能力,核心在於微博團隊採用的「頻譜到訊號原則」(SSP)訓練框架。
簡單來說,團隊在監督微調階段先讓模型探索足夠多樣的解題路徑,把思路放開;隨後在強化學習階段再去粗取精,強化正確的解題訊號。
這種以多樣性為核心的設計,讓一個 1.5B 級別的小模型走出了極高的引數效率。
如果你想自己部署玩玩,門檻非常低。模型倉庫採用 MIT 協議完全開源,權重已經在 Hugging Face 和 ModelScope 上架,技術報告也同步放上了 arXiv。
由於引數量只有 15 億,普通消費級顯示卡甚至輕薄裝置都能輕鬆載入。官方支援 Transformers、vLLM 和 SGLang 部署,也提供了 Docker 映象。
官方建議將推理時的最大 token 長度拉到 40960,溫度引數設為 0.6 或 1.0,讓模型有充分的空間展開長鏈條思考。
為什麼重要
對於打競賽、刷題的開發者或者想在端側跑專業推理的人來說,VibeThinker-1.5B 是個非常趁手的小玩具。你不需要租用昂貴的多卡算力,在單張入門顯示卡上就能獲得過去大模型才有的複雜推導體驗。
更重要的是,它證明了高強度推理並不一定非得靠堆疊千億引數來解決。通過更巧妙的訓練策略,小模型在特定垂直領域的智商完全可以越級挑戰。不過它的短板同樣明顯:偏科極其嚴重,出了演算法和數學的圈子就很難正常工作。但如果你的目標只是低成本搞定特定邏輯任務,它絕對值得你立刻拉下來跑一跑。
來源 (1)
- huggingface.co(在新分頁開啟)原文huggingface.co