跳到正文
IFAI

開源專案

Kimi K3.1 Pro:2.8 萬億引數多模態模型開源,完整權重上架

首次發布 傳播指數 51

月之暗面在 Hugging Face 上線 Kimi K3.1 Pro 完整權重。該多模態模型總引數達 2.8 萬億,推理啟用 1040 億引數,支援 100 萬 token 上下文。1.56TB 的體積雖然考驗算力,但已全面適配 vLLM 與 SGLang 部署。

Kimi K3.1 Pro:2.8 萬億引數多模態模型開源,完整權重上架
圖:huggingface.co

見過開源大模型的,但很少見到一齣手就是 1.56TB 的龐然大物。

月之暗面最近兌現了承諾,在 Hugging Face 上正式放出了 Kimi K3.1 Pro 的完整模型權重。這是 K3.1 系列的第一款模型,也是目前全球開源領域引數體量最龐大的原生多模態模型之一。

訓練這種規模的模型,耗費的資金往往以百萬美元計。月之暗面願意把完整權重公開,不僅引來了開發者社群的圍觀,也讓不少算力企業開始摩拳擦掌。

2.8 萬億總引數,但每次只喚醒一小部分

Kimi K3.1 Pro 是個月之暗面自研的混合專家架構模型,總引數量達到了誇張的 2.8 萬億。

不過,它在每次推理計算時,只啟用其中的 1040 億引數。這種設計保證了模型在具備深厚知識底座的同時,單次推理開銷不至於徹底失控。

它的上下文視窗擴充套件到了 100 萬 token。為了在超長文本下兼顧效率,團隊在 93 層網路中,用 24 層門控稀疏注意力替代了原先的全注意力層。

同時,它原生具備多模態能力,搭載了 401M 引數的 MoonViT-V2 視覺編碼器,並在量化感知訓練中使用了 MXFP4 權重與 MXFP8 啟用。

在基準測試中,它在 Terminal-Bench、SWE Marathon 以及複雜的金融與辦公長文本任務上,成績已經咬住了 GPT-6 Astra 和 Claude Opus 5.5 這類頂級閉源模型。

普通顯示卡先別想了,這是叢集的盛宴

東西確實是好東西,但下載和部署的門檻擺在那裡。

整套模型權重高達 1.56TB。官方不僅給出了標準的 Transformers 呼叫方式,還上線了 vLLM 和 SGLang 的原生部署支援,並提供了 Docker 映象。

換句話說,普通人的個人電腦或單張消費級顯示卡連解壓都困難,更別提載入視訊記憶體了。想要把它跑起來,必須依賴多張專業計算卡組成的叢集。

對於絕大多數普通開發者來說,現階段在 HuggingChat 或雲端 API 裡體驗是更現實的選擇。

為什麼重要

對使用者與開發者而言,這意味著頂級模型底座的控制權重新回到了自己手裡。以前需要花大價錢呼叫閉源商業 API 的智慧體程式設計、長程文件分析與複雜工具呼叫,現在有財力的企業完全可以在私有集群裡離線部署,無需擔心資料洩露。

對整個行業來說,月之暗面把開源模型的門檻直接拉高到了接近 3 萬億引數的級別。它證明了開源陣營不僅能在輕量模型上打價效比戰,在最頂尖的超大規模 MoE 上同樣能正面對抗閉源巨頭。

我們認為,月之暗面這步棋走得相當通透。一方面把訓練成本極高的資產公開,贏得了全球開源社群的聲譽與生態繫結;另一方面,1.56TB 的硬體門檻自然篩選出了真正的企業級客戶,為後續的企業雲服務和算力合作鋪平了道路。

來源 (1)

  1. [1]
    huggingface.co(在新分頁開啟)原文huggingface.co

每日 AI 內容精選