跳到正文
IFAI

大模型

Mistral 推出程式碼模型 Codestral:22B 體積與 32k 上下文

首次發布 傳播指數 52

Mistral AI 釋出首個專用程式碼生成模型 Codestral,引數量 22B,支援 32k 上下文與 80 多種程式語言。最值得關注的是其支援中間填空補全,長程式碼測試成績亮眼。該模型開放權重供研究測試,並提供 8 周免費測試 API,商用需另獲授權。

Mistral 推出程式碼模型 Codestral:22B 體積與 32k 上下文
圖:mistral.ai

Codestral 是 Mistral AI 推出的首款程式碼專用大模型,體量為 22B(220 億引數),專門用來幫開發者生成程式碼、補全邏輯、編寫測試用例以及做程式碼問答。

它支援 80 多種程式語言。除了 Python、Java、C、C++、JavaScript 和 Bash 這類常用語言,也能處理 Swift 和 Fortran 等更具體的語言。

它的上下文視窗達到了 32k。相比此前許多程式碼模型 4k 到 16k 的視窗,32k 讓它在處理更長、跨檔案的程式碼倉庫任務時遊刃有餘。

除了常規的自左向右生成,Codestral 原生支援中間填空機制(Fill-in-the-middle,簡稱 FIM)。開發者在已有程式碼段中間寫新邏輯時,模型能結合上下文補齊缺失部分,非常適合 IDE 裡的行內補全。

效能表現與開發工具整合

在程式碼生成評測中,Codestral 跨語言表現搶眼。在長上下文測試 RepoBench EM 上,它依託 32k 上下文超過了對比模型;在 Python 的 HumanEval、MBPP 和 SQL 的 Spider 基準上也有不錯表現。

JetBrains 研究員 Mikhail Evtikhiev 分享的測試資料顯示,在 Kotlin-HumanEval 基準上(T=0.2),Codestral 取得了 73.75 的分數,超過了 GPT-4-Turbo 的 72.05 和 GPT-3.5-Turbo 的 54.66。

開發工具生態的跟進非常迅速。Continue.dev 和 Tabnine 已經在 VS Code 和 JetBrains 環境中集成了 Codestral,支援行內補全和程式碼對話。

Sourcegraph 的 Cody 把它用作自動補全後端以降低延遲,LlamaIndex 和 LangChain 也已接入該模型,支援開發者基於它構建帶工具呼叫的程式碼智慧體。

開源許可與如何體驗

Codestral 的權重已經發布在 Hugging Face 上供下載使用。

不過要注意它的許可證限制:該模型採用的是 Mistral AI 非生產許可(Non-Production License)。這意味著可以免費下載用於研究和測試,但不能直接用於商業生產;商業用途需要單獨聯絡 Mistral 獲取商業授權。

如果想直接呼叫雲端能力,Mistral 開放了一個專用的端點 codestral.mistral.ai。該端點專為 IDE 外掛等場景最佳化,提供 8 周的免費測試期(需排隊申請 API Key)。常規的按 token 計費 API 也已在 api.mistral.ai 上線。

為什麼重要

Codestral 在 22B 這個體積上找到了很好的平衡點。對開發者來說,它比超大模型更輕快、延遲更低,32k 上下文加 FIM 中間填空也直擊 IDE 程式碼補全的痛點,跑起來不卡頓。

唯一的門檻在於許可證。非商用限制意味著團隊不能直接把它打包成商業產品售賣。但如果你只是個人想在日常寫程式碼時換一個輕快、聰明的補全引擎,趁著 8 周免費測試期或者本地拉權重試用,很值得上手跑一跑。

來源 (1)

  1. [1]
    mistral.ai(在新分頁開啟)原文mistral.ai

每日 AI 內容精選