Meta 釋出 Code Llama 70B：支援 10 萬 token 上下文，可免費商用

Code Llama 70B 是 Meta 推出的開源大引數程式碼生成模型。它是去年 8 月釋出的 Code Llama 家族最新、體量最大的成員，支援從文本指令或程式碼片段中補全邏輯、生成演算法、編寫排序與搜尋功能。

模型覆蓋 Python、C++、JavaScript 和 Java 等主流程式語言。最搶眼的是它的上下文視窗達到了 10 萬 token，意味著你可以把一整個程式碼庫或超長文件一次性餵給它，讓它處理跨檔案的呼叫和複雜排錯。

它能做什麼與三個版本

這次上線的 70B 包含三個不同變體，分工很明確。

基礎版 CodeLlama-70B 負責通用的程式碼補全和生成任務。針對對話和互動場景，Meta 提供了 CodeLlama-70B-Instruct，經過專門微調以理解日常自然語言的開發需求。

如果你主要寫 Python，還有針對該語言深度特化的 CodeLlama-70B-Python。Meta 在 5000 億 token 的程式碼和關聯資料訓練之外，額外給這個版本補充了 1000 億 token 的 Python 程式碼訓練，官方稱其在生成 Python 時的流暢度和準確率都達到了極高水準。

怎麼用與開源協議

Code Llama 70B 目前已經可以直接下載，沿用了之前 Code Llama 的開源許可協議。

這套寬鬆的協議允許學術機構和商業公司免費使用、分發甚至自行微調修改。扎克伯格在社交平臺上表示，寫程式碼和改程式碼已經成為今天 AI 模型最重要的用途之一，而且寫程式碼的能力被證明能幫助模型在其他領域更嚴謹、更有邏輯地處理資訊。

對於想要自建本地或私有程式碼助手的團隊，現在就可以到 Meta 官方提供的渠道獲取基礎版、Instruct 版和 Python 版的權重檔案。

為什麼重要

對於極其看重資料隱私的自研團隊和企業開發者來說，Code Llama 70B 提供了替代商業閉源雲端工具的底座。你不再必須把敏感程式碼上傳到 GitHub Copilot 或 Google 的 Duet AI 與 Gemini Pro，而是能在私有基礎設施上執行一套能力逼近前沿梯隊的開源模型。

不過，700 億引數對本地部署的硬體要求並不低。如果你只是個人隨手寫小指令碼，現有輕量模型或託管服務依然更省事；但如果你的團隊需要在特定業務庫上進行深度微調與私有化交付，70B 加上 10 萬 token 的上下文，會讓它成為目前最值得嘗試的開原始碼基座之一。