字節跳動開源 Seed-OSS-36B：原生 512K 上下文，推理預算可自由調節

ByteDance 旗下 Seed 團隊剛剛開源了 Seed-OSS-36B。這是一個擁有 360 億引數的大語言模型家族，核心賣點有兩個：原生支援長達 512K token 的超長上下文，以及允許開發者手動配置「思考預算」（thinking budget）。

整套模型全部採用極其寬鬆的 Apache-2.0 許可證。不管你是拿來做內部研究，還是直接整合到面向客戶的商業產品裡，都不需要向 ByteDance 繳納任何授權費或 API 費用。

它能做什麼，怎麼做到的

這次開源一共包含三個不同版本。首先是兩個基礎模型（Base）：一個用合成指令資料進行了增強，綜合跑分更強，適合直接拿來做通用開發；另一個完全沒混入合成數據，給學術界保留了一個不受合成偏差影響的乾淨底座。第三個是 Seed-OSS-36B-Instruct，專門針對任務執行和指令遵循做了後訓練微調。

架構上，Seed-OSS-36B 採用了經典的因果語言建模、分組查詢注意力（GQA）、SwiGLU 啟用函式、RMSNorm 以及 RoPE 位置編碼。整套模型共 64 層，詞表大小為 15.5 萬 token。

最顯眼的特點是原生 512K 上下文視窗。這個長度大約相當於 1600 頁文本，是 OpenAI GPT-5 系列 256K 限制的兩倍。在長文件理解測試 RULER 的 128K 長度下，它跑出了 94.6 分，在開源陣營裡排名最高。

另一個設計亮點是引入了思考預算。開發者可以按 512 token 的倍數，自由規定模型在輸出答案前花多少算力做鏈式推導。如果把預算設為 0，它就會直接進入快問快答模式，極大地節省推理延遲和算力消耗。

在程式碼和數學基準測試中，Instruct 版本的表現很搶眼：AIME24 拿到 91.7%，BeyondAIME 拿到 65%，在 LiveCodeBench v6 程式設計測試上也拿到了 67.4 分，均刷出了同級別開源模型的新高。

怎麼用上它

目前全套模型權重已經上傳到 Hugging Face 平臺，開發者可以直接下載部署。

不過 36B 的引數規模擺在那裡，即使做了量化，想要完整跑滿 512K 上下文，依然需要多卡企業級顯示卡叢集的支援。如果只是本地小規模推理，建議將思考預算調小或者設為 0。

為什麼重要

對於需要處理超長專業文件、複雜程式碼庫的企業和開發者來說，Seed-OSS-36B 是目前開源領域極具競爭力的新選擇。

它最聰明的地方在於給開發者留足了彈性：既給到了真正的 Apache-2.0 商用自由，又通過思考預算讓部署團隊能夠根據具體場景在速度與深度思考之間自由做權衡。

如果你正在尋找一個能自己私有化部署、又不需要向閉源大廠按 token 付費的長文本推理模型，這套工具非常值得現在拉下來跑一跑。