Meta 发布 Code Llama 70B：支持 10 万 token 上下文，可免费商用

Code Llama 70B 是 Meta 推出的开源大参数代码生成模型。它是去年 8 月发布的 Code Llama 家族最新、体量最大的成员，支持从文本指令或代码片段中补全逻辑、生成算法、编写排序与搜索功能。

模型覆盖 Python、C++、JavaScript 和 Java 等主流编程语言。最抢眼的是它的上下文窗口达到了 10 万 token，意味着你可以把一整个代码库或超长文档一次性喂给它，让它处理跨文件的调用和复杂排错。

它能做什么与三个版本

这次上线的 70B 包含三个不同变体，分工很明确。

基础版 CodeLlama-70B 负责通用的代码补全和生成任务。针对对话和交互场景，Meta 提供了 CodeLlama-70B-Instruct，经过专门微调以理解日常自然语言的开发需求。

如果你主要写 Python，还有针对该语言深度特化的 CodeLlama-70B-Python。Meta 在 5000 亿 token 的代码和关联数据训练之外，额外给这个版本补充了 1000 亿 token 的 Python 代码训练，官方称其在生成 Python 时的流畅度和准确率都达到了极高水准。

怎么用与开源协议

Code Llama 70B 目前已经可以直接下载，沿用了之前 Code Llama 的开源许可协议。

这套宽松的协议允许学术机构和商业公司免费使用、分发甚至自行微调修改。扎克伯格在社交平台上表示，写代码和改代码已经成为今天 AI 模型最重要的用途之一，而且写代码的能力被证明能帮助模型在其他领域更严谨、更有逻辑地处理信息。

对于想要自建本地或私有代码助手的团队，现在就可以到 Meta 官方提供的渠道获取基础版、Instruct 版和 Python 版的权重文件。

为什么重要

对于极其看重数据隐私的自研团队和企业开发者来说，Code Llama 70B 提供了替代商业闭源云端工具的底座。你不再必须把敏感代码上传到 GitHub Copilot 或 Google 的 Duet AI 与 Gemini Pro，而是能在私有基础设施上运行一套能力逼近前沿梯队的开源模型。

不过，700 亿参数对本地部署的硬件要求并不低。如果你只是个人随手写小脚本，现有轻量模型或托管服务依然更省事；但如果你的团队需要在特定业务库上进行深度微调与私有化交付，70B 加上 10 万 token 的上下文，会让它成为目前最值得尝试的开源代码基座之一。