跳到正文
IFAI

大模型

Moonshot AI 推出 Kimi K2.7-Code 高速模式:速度飆升 6 倍,每秒最高 260 token

首次發布 傳播指數 50

Moonshot AI 宣佈為程式碼模型 Kimi K2.7-Code 推出 HighSpeed 模式,吞吐速度提升最高 6 倍,短文本可達每秒 260 token。該模型減少約 30% 推理 token 消耗,已上線 Hugging Face 與 API,但尚未提交第三方獨立基準評測。

Moonshot AI 推出 Kimi K2.7-Code 高速模式:速度飆升 6 倍,每秒最高 260 token
圖:techtimes.com

如果你用過那些會「思考」的程式碼模型,大概都有過這種體會:敲下一行回車,螢幕上游標閃了半天,模型洋洋灑灑寫了幾百字心路歷程,最後給出的補全程式碼其實只有兩行。

Moonshot AI 想解決的就是這個痛點。6 月 12 日,這家剛拿下超 200 億美元估值的團隊推出了 Kimi K2.7-Code。緊接著在 6 月 15 日,他們又宣佈在 Kimi Code Beta 中上線 HighSpeed 模式,把吞吐速度拉高了整整 6 倍。

在常規長度的編碼任務下,HighSpeed 模式能跑出每秒 180 個 token;如果是更短的上下文,速度能衝到每秒 260 token。對於依賴自動化 Agent 批次跑任務的團隊來說,這基本意味著從「等咖啡」變成了「即時重新整理」。

結構沒變,全靠後訓練擠出水分

有意思的是,K2.7-Code 的底層模型架構和此前的 K2.5、K2.6 幾乎一模一樣。

它依然維持著萬億引數的混合專家(MoE)架構,切成 384 個專家子網路。每次處理一個 token,只啟用其中 8 個專家和一個共享專家,實際運算的活躍引數只有約 320 億。加上沿用自 DeepSeek 的 MLA(多頭潛在注意力)機制壓縮快取,這讓它能輕鬆撐住 256K 的超長上下文視窗。

而且這個模型有個硬性限制:它必須在「思考模式」下執行,通過跨輪次保留思維鏈來保持上下文理解,根本沒有所謂的不思考秒回模式。

既然結構沒動,6 倍的速度提升和宣稱減少 30% 推理 token 是怎麼來的?答案在後訓練階段。Moonshot 在訓練微調時對程式碼任務加大了權重,硬生生把冗長糾結的思維鏈給壓縮變短了。

學術界近來的研究早就發現,推理模型普遍存在「想太多」的毛病,輸出 token 數量不僅往往比常規模型多出十幾倍,甚至有時跟準確率呈現負相關。Moonshot 這次做的,其實就是給模型的思維鏈脫水。

渠道鋪滿,但第三方評測交了白卷

鋪貨節奏上,Moonshot 走得非常快。開源社群可以在 Hugging Face 上獲取修改版 MIT 協議的模型權重;調介面的開發者能以百萬 token 輸入 0.95 美元、輸出 4.00 美元的價格接入 API;桌面端還有每月 19 美元起的終端程式設計助手 Kimi Code。

不過,這裡頭最大的問號是它的真實實力。

雖然 Moonshot 聲稱新版本效率大幅提升,但這個結論完全來自他們自己設計的 5 項專有測試。到目前為止,Moonshot 還沒有向任何公認的第三方獨立基準評測提交過 K2.7-Code 的成績。

換句話說,開發者到底能不能在真實複雜工程裡嚐到這 30% 的效率甜頭,現在全憑廠家的自說自話。

為什麼重要

我們認為,Moonshot 這步棋走得非常務實,但也打在了灰色地帶上。

對開發者來說,跑 Coding Agent 最心疼的不是單價,而是模型來回兜圈子浪費的 token 費用和等待時間。如果 HighSpeed 模式在實際專案中真能做到每秒 260 token 還不掉智商,它完全值得你花 19 美元或者調幾塊錢 API 進工作流試一試。門檻很低,試錯成本幾乎可以忽略。

從行業競爭來看,自 2025 年 7 月初代 K2 面世以來,這已經是 Moonshot 拿出的第五次重大模型迭代。在阿里、騰訊、美團甚至中國移動這些金主的彈藥支援下,中國頭部隊伍的迭代節奏明顯逼得海外閉源大廠有些喘不過氣。

但問題也很明顯:不送測第三方榜單的做法,很容易讓人聯想到自賣自誇的營銷包裝。給思維鏈強行脫水到底會不會砍掉模型解決疑難雜症的深思能力,在真實業務把程式碼跑崩之前,誰也拿不準。在沒有公認評測背書的前提下,大團隊把核心業務直接押注上去,看起來還為時過早。

來源 (1)

  1. [1]

每日 AI 內容精選