字节跳动开源 Seed-OSS-36B：原生 512K 上下文，推理预算可自由调节

ByteDance 旗下 Seed 团队刚刚开源了 Seed-OSS-36B。这是一个拥有 360 亿参数的大语言模型家族，核心卖点有两个：原生支持长达 512K token 的超长上下文，以及允许开发者手动配置「思考预算」（thinking budget）。

整套模型全部采用极其宽松的 Apache-2.0 许可证。不管你是拿来做内部研究，还是直接集成到面向客户的商业产品里，都不需要向 ByteDance 缴纳任何授权费或 API 费用。

它能做什么，怎么做到的

这次开源一共包含三个不同版本。首先是两个基础模型（Base）：一个用合成指令数据进行了增强，综合跑分更强，适合直接拿来做通用开发；另一个完全没混入合成数据，给学术界保留了一个不受合成偏差影响的干净底座。第三个是 Seed-OSS-36B-Instruct，专门针对任务执行和指令遵循做了后训练微调。

架构上，Seed-OSS-36B 采用了经典的因果语言建模、分组查询注意力（GQA）、SwiGLU 激活函数、RMSNorm 以及 RoPE 位置编码。整套模型共 64 层，词表大小为 15.5 万 token。

最显眼的特点是原生 512K 上下文窗口。这个长度大约相当于 1600 页文本，是 OpenAI GPT-5 系列 256K 限制的两倍。在长文档理解测试 RULER 的 128K 长度下，它跑出了 94.6 分，在开源阵营里排名最高。

另一个设计亮点是引入了思考预算。开发者可以按 512 token 的倍数，自由规定模型在输出答案前花多少算力做链式推导。如果把预算设为 0，它就会直接进入快问快答模式，极大地节省推理延迟和算力消耗。

在代码和数学基准测试中，Instruct 版本的表现很抢眼：AIME24 拿到 91.7%，BeyondAIME 拿到 65%，在 LiveCodeBench v6 编程测试上也拿到了 67.4 分，均刷出了同级别开源模型的新高。

怎么用上它

目前全套模型权重已经上传到 Hugging Face 平台，开发者可以直接下载部署。

不过 36B 的参数规模摆在那里，即使做了量化，想要完整跑满 512K 上下文，依然需要多卡企业级显卡集群的支持。如果只是本地小规模推理，建议将思考预算调小或者设为 0。

为什么重要

对于需要处理超长专业文档、复杂代码库的企业和开发者来说，Seed-OSS-36B 是目前开源领域极具竞争力的新选择。

它最聪明的地方在于给开发者留足了弹性：既给到了真正的 Apache-2.0 商用自由，又通过思考预算让部署团队能够根据具体场景在速度与深度思考之间自由做权衡。

如果你正在寻找一个能自己私有化部署、又不需要向闭源大厂按 token 付费的长文本推理模型，这套工具非常值得现在拉下来跑一跑。