Cognition 釋出程式設計模型 SWE-1.7:基於 Kimi K2.7,效能逼近 GPT-5.5
Cognition 釋出專為 Devin 打造的程式設計模型 SWE-1.7。該模型基於開源的 Kimi K2.7,通過強化學習將效能拉至逼近 GPT-5.5 與 Opus 4.8,且成本大幅降低。目前已在 Devin 全平臺上線,藉助 Cerebras 晶片實現每秒 1000 token 的極速推理。

以前大家做 AI 程式設計 Agent,思路大多是直接呼叫頂尖閉源模型,賬單拉得老長,推理速度還慢半拍。
打造 Devin 的 Cognition 換了一條路,釋出自研程式設計大模型 SWE-1.7。他們直接拿中國開源的 Kimi K2.7 當基座,靠一整套強化學習流水線硬生生把效能推了上去,成本卻壓低到原來的幾分之一。模型目前已經在 Devin 的 Web、桌面端和 CLI 上線,接入了 Cerebras 晶片推理,跑起來每秒能吐 1000 個 token。
在基準測試裡,SWE-1.7 的 FrontierCode 1.1 得分從基座的 30.1% 衝到了 42.3%,逼近 GPT-5.5 的 43.0%;Terminal-Bench 2.1 跑到 81.5%,SWE-Bench Multilingual 拿到 77.8%,效能把前代 SWE-1.6 甩開幾條街,直接跟頂流模型平起平坐。
拿開源模型打底,還能擠出多少水分
業內之前有個普遍看法,覺得開源模型如果本身已經經過大量強化學習後訓練,後面再想靠強化學習挖出大潛能,很容易觸碰所謂的「後訓練天花板」。
Cognition 這次偏要打破這個看法。SWE-1.7 能跑出來,關鍵在於他們治好了長程強化學習的兩塊心病:熵崩塌和訓練推斷漂移。
在做非同步強化學習時,他們發現取樣極端低機率的 token 會讓模型過度自信,訓練跑幾百步獎勵就漲不動了。為此團隊引入了取樣分佈回放機制,把 top-p 取樣跟訓練端做對齊,不僅穩住了熵值,還剔除了大量低訊號梯度的噪音。此外,他們還換上了 Muon 最佳化器,徹底幹掉了訓練器裡的非確定性操作。
沒萬卡叢集,就去三大洲「拼算力」
對於像 Cognition 這樣需要訓練萬億引數模型的創業團隊來說,搞一個擁有幾萬張卡的高速單叢集既貴又難。他們盯上了強化學習本身的天然特性:只有主訓練器需要高頻寬,負責生成軌跡的推理節點完全可以扔在外面。
於是他們把訓練節點分散在三大洲的四個資料中心裡,把自己的 GPU 叢集和 Fireworks 等供應商的雲算力擰成一股繩。為了解決跨大洲同步權重的延遲,他們設計了壓縮權重差量傳輸,每次更新體積砍掉超過 99%。
配合雲端物件儲存和節點預載入,跨洲同步萬億引數模型的權重只花一兩分鐘,推理服務僅需暫停 3 到 4 秒就能無縫切換。哪怕部分推理節點掛掉,有 NVIDIA Dynamo 頂著重新排程,也不會把整場訓練拖垮。
針對寫程式碼最怕的超長上下文,SWE-1.7 還學會了自壓縮。它能在推理過程中自動總結當前的工作狀態,直接從摘要繼續往下寫,配合交替的長度懲罰,逼著模型少說廢話、精準寫碼。
為什麼重要
對日常使用 Devin 的開發者來說,這波升級帶來的是實打實的提速與降本。以前跑一個複雜的長程跨檔案任務,不僅要等半天,還要擔心上下文打架爆掉,現在靠 Cerebras 的千 token 每秒輸出和自壓縮機制,做複雜任務的體驗會流暢許多,值得現在就去網頁或終端裡跑跑看。
對行業而言,這一步走得相當精明。它證明了不需要從零預訓練燒掉幾億美元,借力成熟的開源高分底模(比如 Kimi K2.7),再針對軟體工程場景下狠功夫做垂直 RL,完全可以在特定場景下跟千億巨頭的閉源旗艦掰手腕。
不過隱患也並非沒有。這種跨大洲拼裝分散式算力和重度依賴開源底模的路線,對基座模型的演進方向有著很強的繫結;後續基座一換,整套針對性微調的資料流水線和差量同步工程是否還能保持同樣的收益,依然需要打個問號。
來源 (1)
- cognition.com(在新分頁開啟)原文cognition.com