跳到正文
IFAI

開源專案

Llama、通義千問、DeepSeek 等開源大模型的新版本，以及值得一用的開源資料集、框架和開發工具。

近 7 天 14 則

  3. 傳播指數 59

    DeepSeek 開源 Coder V2：程式設計能力超越 GPT-4 Turbo

    DeepSeek 開源混合專家程式碼模型 DeepSeek Coder V2，支援 338 種程式語言與 128K 上下文。它在 HumanEval 等程式碼評測中超越了 GPT-4 Turbo 和 Claude 3 Opus，成為首個在程式設計基準上擊敗頂尖閉源方案的開源模型。提供 16B 和 236B 兩種尺寸，遵循 MIT 協議。

  4. 傳播指數 52

    Qwen2 開源釋出：覆蓋 5 個尺寸，72B 效能比肩 Llama 3

    Qwen 團隊開源新一代模型系列 Qwen2，提供從 0.5B 到 72B 共 5 種尺寸。全系採用 GQA 架構，並在 27 種額外語言上進行了訓練，其中 7B 和 72B 指令微調版上下文支援最高達 128K tokens。除 72B 沿用原有許可外，其餘中小尺寸均轉為 Apache 2.0 協議。

  6. 傳播指數 46

    Snowflake 開源 Arctic LLM：480B 稀疏架構專攻企業 SQL 與程式設計

    Snowflake 推出企業級大模型 Arctic LLM，採用 Apache 2.0 協議完全開源並允許商用。該模型基於混合專家架構，總引數 480B 但每次僅啟用 17B，訓練成本僅約 200 萬美元，主打企業資料庫程式碼生成與 SQL 查詢，表現據稱優於 Databricks 的 DBRX。

  7. 傳播指數 44

    NVIDIA 全面加速 Llama 3：單張 H200 跑 70B 每秒吐 3000 token

    NVIDIA 宣佈對 Meta 新發布的 Llama 3 進行全平臺推理最佳化。測試顯示，單張 H200 執行 700 億引數版本時每秒生成約 3000 token，可同時服務約 300 名使用者；80 億引數版本也已適配 Jetson 和 RTX PC。開發者可直接通過 NIM 微服務在瀏覽器中試用。

  9. 傳播指數 70

    Mistral 在 X 上甩種子：開源 176B 大模型 Mixtral 8x22B

    Mistral AI 延續傳統在 X 上直接釋出磁力連結，推出開源模型 Mixtral 8x22B。該模型總引數達 1760 億，採用 MoE 架構，每次推理僅啟用 440 億引數，支援 65k 上下文視窗。最值得關注的是它採用寬鬆的 Apache 2.0 協議開源，開發者可自由商用與微調。

  10. 傳播指數 44

    Meta 確認：開源大模型 Llama 3 下個月內正式推出

    Meta 確認將在下個月內開始推出下一代開源大語言模型 Llama 3，年內會陸續推出不同能力和規格的版本。Llama 3 將接入 Meta 旗下多款產品，重點解決此前回答受限的問題，並有望將最大引數規模從 Llama 2 的 700 億提升至約 1400 億。

  11. 傳播指數 59

    Google 聯合 Hugging Face 開源 CodeGemma：主打程式碼補全，輕至 2B

    Google 聯合 Hugging Face 上線程式碼模型 CodeGemma。該系列在 Gemma 基礎上補充了 5000 億 token 訓練，推出主打程式碼填充的 2B 版本、兼顧自然語言的 7B 基礎版及 7B 對話版。其中 2B 版僅需約 6 GB 記憶體，適合在端側裝置快速補全程式碼。

  12. 傳播指數 45

    Stability AI 釋出 Stable LM 2 12B：兼顧多語言與工具呼叫

    Stability AI 推出開源模型 Stable LM 2 12B，包含基礎與指令微調版，基於 2 萬億 token 訓練並支援英、德、法等 7 種語言。其指令版支援工具呼叫與 RAG 檢索增強。同時 1.6B 版本也獲升級。個人研究免費，商用需開通會員。

  14. 傳播指數 61

    xAI 開源 Grok-1：開放 3140 億引數基礎模型權重與架構

    xAI 宣佈按 Apache 2.0 協議開源 Grok-1 的基礎模型權重與網路架構。該模型擁有 3140 億引數，採用混合專家架構，是 2023 年 10 月完成預訓練的原始檢查點，未經過特定對話微調。程式碼與指引已在 GitHub 上線。

  16. 傳播指數 61

    Google 開源輕量模型 Gemma：筆記本能跑，允許商用

    Google 推出全新開源模型系列 Gemma，提供 2B 和 7B 兩個尺寸及指令微調版本。它繼承了 Gemini 的核心技術，能在個人電腦或工作站本地執行，在同尺寸開源模型中表現頂尖，且允許企業和個人免費商用。

  18. 傳播指數 34

    開源模型新霸主：Abacus AI 推出 Smaug-72B，多項基準超 GPT-3.5

    初創公司 Abacus AI 公佈基於通義千問 Qwen-72B 微調的模型 Smaug-72B。它是首個在 Hugging Face 開源排行榜上綜合均分破 80 的模型，在多個基準測試中超過了 GPT-3.5 和 Mistral Medium。團隊針對推理和數學能力做了專項微調，模型現已完全開源。