UC Berkeley 开源推理模型 Sky-T1：训出 o1 水平只要 450 美元

Sky-T1-32B-Preview 是一个完全开源的推理大模型，核心看点就一句话：它把类似 OpenAI o1-preview 的推理和写代码能力打了下来，而且整个训练成本还不到 450 美元。

项目来自 UC Berkeley 的 NovaSky 团队。不同于 OpenAI 闭门不谈技术细节，甚至很多开源推理模型只公开权重不给数据，这次团队把训练代码、清洗后的 1.7 万条微调数据、32B 模型权重以及训练日志全套放了出来。

它是怎么训出来的

很多人以为要复现深度思考需要海量算力，NovaSky 却走了一条极度精简的路线。它的基座模型直接选了开源的 Qwen2.5-32B-Instruct，训练时用了 Llama-Factory 框架搭配 DeepSpeed Zero-3。

关键在数据质量。团队借助阿里开源的 QwQ-32B-Preview 生成思考过程，再通过拒绝采样来洗掉错解。数学题只要和标准答案对不上就扔掉，编程题则必须通过单元测试。这套过滤机制最终留下了 1.7 万条高质量样本，包括 1 万条竞赛级数学题、5000 条算法编程题，以及 1000 条来自 STILL-2 的科学谜题。

团队还做了一个聪明的动作：用 GPT-4o-mini 重写 QwQ 的思维链输出，统一格式。团队发现原本很多评测脚本抓不到 QwQ 写在中间的代码，导致 APPs 评测准确率只有 25% 左右，一旦规范格式，分数立刻跳上了 90%。

算力消耗上，团队在 Lambda Cloud 上租用了 8 张 H100，只跑了 19 个小时、3 个 epoch，算下来账单真就不到 450 美元。

它的能力与局限

在标准评测集上，Sky-T1-32B-Preview 的表现几乎咬住了 o1-preview。在 AIME 2024 数学竞赛题上，它拿下了 43.3% 的准确率，高于 o1-preview 的 40.0% 和基座的 16.7%；在编程基准 LiveCodeBench-Hard 上达到 17.9%，略超 o1-preview 的 16.3%。

不过它在通用复杂问答上还是有差距。比如考验博士级科学知识的 GPQA-Diamond，o1-preview 拿了 75.2%，Sky-T1 只有 56.8%。

想在更小尺寸上复制这套打法暂时行不通。团队试过 7B 和 14B 模型，发现小模型在推理过程中很容易反复车轱辘话。此外，数学和写代码的逻辑机制不同，团队前期加入编程数据时曾导致数学成绩下滑，最后靠重新平衡 NuminaMath 和 TACO 数据才稳住两端表现。

目前权重和数据已经可以在 Hugging Face 上获取，训练流水线也发布在 GitHub 仓库中。

为什么重要

在 o1 推出之后，不少人认定长思维链推理是有钱大厂的专利。Sky-T1 用不到 450 美元的账单证明了，只要基座底子够好，配合高质量的拒绝采样和格式重写，普通实验室甚至独立开发者也能快速复刻顶尖推理能力。

我们认为它最实在的价值在于全盘开源。此前许多标榜开源的推理模型要么藏着数据配方，要么不给代码。NovaSky 把整套配方公开后，中小团队无需再从零摸索数据清洗，完全可以在特定垂直领域花几百美元训出自己的专用推理模型。