UC Berkeley 開源推理模型 Sky-T1：訓出 o1 水平只要 450 美元

Sky-T1-32B-Preview 是一個完全開源的推理大模型，核心看點就一句話：它把類似 OpenAI o1-preview 的推理和寫程式碼能力打了下來，而且整個訓練成本還不到 450 美元。

專案來自 UC Berkeley 的 NovaSky 團隊。不同於 OpenAI 閉門不談技術細節，甚至很多開源推理模型只公開權重不給資料，這次團隊把訓練程式碼、清洗後的 1.7 萬條微調資料、32B 模型權重以及訓練日誌全套放了出來。

它是怎麼訓出來的

很多人以為要復現深度思考需要海量算力，NovaSky 卻走了一條極度精簡的路線。它的基座模型直接選了開源的 Qwen2.5-32B-Instruct，訓練時用了 Llama-Factory 框架搭配 DeepSpeed Zero-3。

關鍵在資料質量。團隊藉助阿里開源的 QwQ-32B-Preview 生成思考過程，再通過拒絕取樣來洗掉錯解。數學題只要和標準答案對不上就扔掉，程式設計題則必須通過單元測試。這套過濾機制最終留下了 1.7 萬條高質量樣本，包括 1 萬條競賽級數學題、5000 條演算法程式設計題，以及 1000 條來自 STILL-2 的科學謎題。

團隊還做了一個聰明的動作：用 GPT-4o-mini 重寫 QwQ 的思維鏈輸出，統一格式。團隊發現原本很多評測指令碼抓不到 QwQ 寫在中間的程式碼，導致 APPs 評測準確率只有 25% 左右，一旦規範格式，分數立刻跳上了 90%。

算力消耗上，團隊在 Lambda Cloud 上租用了 8 張 H100，只跑了 19 個小時、3 個 epoch，算下來賬單真就不到 450 美元。

它的能力與侷限

在標準評測集上，Sky-T1-32B-Preview 的表現幾乎咬住了 o1-preview。在 AIME 2024 數學競賽題上，它拿下了 43.3% 的準確率，高於 o1-preview 的 40.0% 和基座的 16.7%；在程式設計基準 LiveCodeBench-Hard 上達到 17.9%，略超 o1-preview 的 16.3%。

不過它在通用複雜問答上還是有差距。比如考驗博士級科學知識的 GPQA-Diamond，o1-preview 拿了 75.2%，Sky-T1 只有 56.8%。

想在更小尺寸上覆制這套打法暫時行不通。團隊試過 7B 和 14B 模型，發現小模型在推理過程中很容易反覆車軲轆話。此外，數學和寫程式碼的邏輯機制不同，團隊前期加入程式設計資料時曾導致數學成績下滑，最後靠重新平衡 NuminaMath 和 TACO 資料才穩住兩端表現。

目前權重和資料已經可以在 Hugging Face 上獲取，訓練流水線也釋出在 GitHub 倉庫中。

為什麼重要

在 o1 推出之後，不少人認定長思維鏈推理是有錢大廠的專利。Sky-T1 用不到 450 美元的賬單證明了，只要基座底子夠好，配合高質量的拒絕取樣和格式重寫，普通實驗室甚至獨立開發者也能快速復刻頂尖推理能力。

我們認為它最實在的價值在於全盤開源。此前許多標榜開源的推理模型要麼藏著資料配方，要麼不給程式碼。NovaSky 把整套配方公開後，中小團隊無需再從零摸索資料清洗，完全可以在特定垂直領域花幾百美元訓出自己的專用推理模型。