跳到正文
IFAI

大模型

Mistral 推出代码模型 Codestral:22B 体积与 32k 上下文

首次发布 传播指数 52

Mistral AI 发布首个专用代码生成模型 Codestral,参数量 22B,支持 32k 上下文与 80 多种编程语言。最值得关注的是其支持中间填空补全,长代码测试成绩亮眼。该模型开放权重供研究测试,并提供 8 周免费测试 API,商用需另获授权。

Mistral 推出代码模型 Codestral:22B 体积与 32k 上下文
图:mistral.ai

Codestral 是 Mistral AI 推出的首款代码专用大模型,体量为 22B(220 亿参数),专门用来帮开发者生成代码、补全逻辑、编写测试用例以及做代码问答。

它支持 80 多种编程语言。除了 Python、Java、C、C++、JavaScript 和 Bash 这类常用语言,也能处理 Swift 和 Fortran 等更具体的语言。

它的上下文窗口达到了 32k。相比此前许多代码模型 4k 到 16k 的窗口,32k 让它在处理更长、跨文件的代码仓库任务时游刃有余。

除了常规的自左向右生成,Codestral 原生支持中间填空机制(Fill-in-the-middle,简称 FIM)。开发者在已有代码段中间写新逻辑时,模型能结合上下文补齐缺失部分,非常适合 IDE 里的行内补全。

性能表现与开发工具集成

在代码生成评测中,Codestral 跨语言表现抢眼。在长上下文测试 RepoBench EM 上,它依托 32k 上下文超过了对比模型;在 Python 的 HumanEval、MBPP 和 SQL 的 Spider 基准上也有不错表现。

JetBrains 研究员 Mikhail Evtikhiev 分享的测试数据显示,在 Kotlin-HumanEval 基准上(T=0.2),Codestral 取得了 73.75 的分数,超过了 GPT-4-Turbo 的 72.05 和 GPT-3.5-Turbo 的 54.66。

开发工具生态的跟进非常迅速。Continue.dev 和 Tabnine 已经在 VS Code 和 JetBrains 环境中集成了 Codestral,支持行内补全和代码对话。

Sourcegraph 的 Cody 把它用作自动补全后端以降低延迟,LlamaIndex 和 LangChain 也已接入该模型,支持开发者基于它构建带工具调用的代码智能体。

开源许可与如何体验

Codestral 的权重已经发布在 Hugging Face 上供下载使用。

不过要注意它的许可证限制:该模型采用的是 Mistral AI 非生产许可(Non-Production License)。这意味着可以免费下载用于研究和测试,但不能直接用于商业生产;商业用途需要单独联系 Mistral 获取商业授权。

如果想直接调用云端能力,Mistral 开放了一个专用的端点 codestral.mistral.ai。该端点专为 IDE 插件等场景优化,提供 8 周的免费测试期(需排队申请 API Key)。常规的按 token 计费 API 也已在 api.mistral.ai 上线。

为什么重要

Codestral 在 22B 这个体积上找到了很好的平衡点。对开发者来说,它比超大模型更轻快、延迟更低,32k 上下文加 FIM 中间填空也直击 IDE 代码补全的痛点,跑起来不卡顿。

唯一的门槛在于许可证。非商用限制意味着团队不能直接把它打包成商业产品售卖。但如果你只是个人想在日常写代码时换一个轻快、聪明的补全引擎,趁着 8 周免费测试期或者本地拉权重试用,很值得上手跑一跑。

来源 (1)

  1. [1]
    mistral.ai(在新标签页打开)原文mistral.ai

每日 AI 内容精选