月之暗面釋出 Kimi K3：首個 2.8T 開源模型，支援百萬上下文與原生視覺

Kimi K3 是月之暗面推出的 2.8 萬億引數開源模型，也是目前首個達到 3T 級別的開源大模型。它支援 100 萬 token 上下文，具備原生圖文理解能力，主要用來解決長時間跨度的複雜程式設計、多步驟知識工作和自主智慧體任務。

它能做什麼

在實際任務中，Kimi K3 主打無需過多人類干預的端到端自主執行能力。它能在海量程式碼倉庫中持續工作，自主操作終端工具，還能結合前端截圖或視覺素材直接除錯遊戲開發、網頁設計與 CAD 圖紙。

它的核心能力集中在極高難度的系統工程上。在官方測試中，K3 能在 24 小時沙盒內獨立最佳化 GPU 底層核心，在這項測試中跑贏了 GPT 5.6 Sol、GPT 5.5 和 Opus 4.8，表現與 Claude Fable 5 相當。月之暗麵糰隊透露，後期大部分核心最佳化工作已經交由 K3 早期版本自行完成。

它甚至能在沒有任何腳手架的情況下從零構建一個 GPU 編譯器 MiniTriton。該編譯器擁有自己的中間表示層和 PTX 程式碼生成管線，端到端跑通了 nanoGPT 的模型訓練，收斂曲線緊貼參考基準。在另一項概念驗證中，K3 在 48 小時內自主設計並驗證了一顆 45nm 的專用推理晶片，模擬環境下的解碼吞吐超過每秒 8700 token。

除了寫程式碼，它在長週期知識研究上也表現突出。它能自主檢索數千篇研報與論文，交叉比對數十萬字公式並輸出互動式圖表網頁，在第三方智商測試榜單 AA's Intelligence Index 上拿到 57 分，僅次於閉源頂尖模型 Fable 5 的 60 分和 Sol 的 59 分。

怎麼做到的與硬體門檻

K3 的架構採用了兩項核心改動：Kimi Delta Attention（KDA）和 Attention Residuals（AttnRes），分別用來提升長序列處理與跨網路深度的資訊流動。模型基於 Stable LatentMoE 框架構建，擁有 896 個專家，每次計算動態啟用其中的 16 個。結合 Quantile Balancing 和 Per-Head Muon 最佳化，整體縮放效率比上一代 K2 提升了約 2.5 倍。

不過，這個級別的龐然大物對部署硬體有著極高要求。K3 從精調階段就採用了量化感知訓練，使用 MXFP4 權重與 MXFP8 啟用以兼顧計算精度與通用硬體相容。由於專家並行需要龐大的通訊頻寬，官方建議在擁有 64 個以上加速器的超節點（Supernode）叢集上部署。

在開放進度方面，Kimi 官方確認完整模型權重將在 2026 年 7 月 27 日正式開放下載，相關技術報告和 vLLM 適配的字首快取程式碼也會同步釋出。

如果讀者現在想嘗試，無需等待自建叢集。K3 已經接入 kimi.com、Kimi Work 桌面端 3.1.0 版本、終端工具 Kimi Code 以及官方 API。目前 API 預設以最大思考模式執行，輸入命中快取每百萬 token 收費 0.30 美元，未命中為 3 美元，輸出為 15 美元，價格與 Claude 5 Sonnet 看齊。

為什麼重要

Kimi K3 的意義在於它把開源模型的技術水位直接拉到了閉源第一梯隊的眼皮底下。過去行業普遍認為開源落後頂尖專有模型至少半年到一年，但 K3 在程式設計、編譯器構建和複雜推理上已經能與頂級專有模型打得有來有回，甚至在部分複雜工程項上反超。

對於獨立開發者和中小團隊來說，本地部署 2.8T 模型的硬體門檻依然高不可攀，現在最划算的用法仍然是呼叫官方 API 或桌面端。但對於有算力儲備的企業和科研機構而言，7 月 27 日權重的釋出意味著他們第一次能夠完全掌控一個接近頂尖私有模型能力的底座，不用再受制於商業閉源 API 的資料隱私條款與封鎖風險。