跳到正文
IFAI

开源项目

Llama、通义千问、DeepSeek 等开源大模型的新版本，以及值得一用的开源数据集、框架和开发工具。

近 7 天 14 条

  3. 传播指数 59

    DeepSeek 开源 Coder V2：编程能力超越 GPT-4 Turbo

    DeepSeek 开源混合专家代码模型 DeepSeek Coder V2，支持 338 种编程语言与 128K 上下文。它在 HumanEval 等代码评测中超越了 GPT-4 Turbo 和 Claude 3 Opus，成为首个在编程基准上击败顶尖闭源方案的开源模型。提供 16B 和 236B 两种尺寸，遵循 MIT 协议。

  4. 传播指数 52

    Qwen2 开源发布：覆盖 5 个尺寸，72B 性能比肩 Llama 3

    Qwen 团队开源新一代模型系列 Qwen2，提供从 0.5B 到 72B 共 5 种尺寸。全系采用 GQA 架构，并在 27 种额外语言上进行了训练，其中 7B 和 72B 指令微调版上下文支持最高达 128K tokens。除 72B 沿用原有许可外，其余中小尺寸均转为 Apache 2.0 协议。

  6. 传播指数 46

    Snowflake 开源 Arctic LLM：480B 稀疏架构专攻企业 SQL 与编程

    Snowflake 推出企业级大模型 Arctic LLM，采用 Apache 2.0 协议完全开源并允许商用。该模型基于混合专家架构，总参数 480B 但每次仅激活 17B，训练成本仅约 200 万美元，主打企业数据库代码生成与 SQL 查询，表现据称优于 Databricks 的 DBRX。

  7. 传播指数 44

    NVIDIA 全面加速 Llama 3：单张 H200 跑 70B 每秒吐 3000 token

    NVIDIA 宣布对 Meta 新发布的 Llama 3 进行全平台推理优化。测试显示，单张 H200 运行 700 亿参数版本时每秒生成约 3000 token，可同时服务约 300 名用户；80 亿参数版本也已适配 Jetson 和 RTX PC。开发者可直接通过 NIM 微服务在浏览器中试用。

  9. 传播指数 70

    Mistral 在 X 上甩种子：开源 176B 大模型 Mixtral 8x22B

    Mistral AI 延续传统在 X 上直接发布磁力链接，推出开源模型 Mixtral 8x22B。该模型总参数达 1760 亿，采用 MoE 架构，每次推理仅激活 440 亿参数，支持 65k 上下文窗口。最值得关注的是它采用宽松的 Apache 2.0 协议开源，开发者可自由商用与微调。

  10. 传播指数 44

    Meta 确认：开源大模型 Llama 3 下个月内正式推出

    Meta 确认将在下个月内开始推出下一代开源大语言模型 Llama 3，年内会陆续推出不同能力和规格的版本。Llama 3 将接入 Meta 旗下多款产品，重点解决此前回答受限的问题，并有望将最大参数规模从 Llama 2 的 700 亿提升至约 1400 亿。

  11. 传播指数 59

    Google 联合 Hugging Face 开源 CodeGemma：主打代码补全，轻至 2B

    Google 联合 Hugging Face 上线代码模型 CodeGemma。该系列在 Gemma 基础上补充了 5000 亿 token 训练，推出主打代码填充的 2B 版本、兼顾自然语言的 7B 基础版及 7B 对话版。其中 2B 版仅需约 6 GB 内存，适合在端侧设备快速补全代码。

  12. 传播指数 45

    Stability AI 发布 Stable LM 2 12B：兼顾多语言与工具调用

    Stability AI 推出开源模型 Stable LM 2 12B，包含基础与指令微调版，基于 2 万亿 token 训练并支持英、德、法等 7 种语言。其指令版支持工具调用与 RAG 检索增强。同时 1.6B 版本也获升级。个人研究免费，商用需开通会员。

  14. 传播指数 61

    xAI 开源 Grok-1：开放 3140 亿参数基础模型权重与架构

    xAI 宣布按 Apache 2.0 协议开源 Grok-1 的基础模型权重与网络架构。该模型拥有 3140 亿参数，采用混合专家架构，是 2023 年 10 月完成预训练的原始检查点，未经过特定对话微调。代码与指引已在 GitHub 上线。

  16. 传播指数 61

    Google 开源轻量模型 Gemma：笔记本能跑，允许商用

    Google 推出全新开源模型系列 Gemma，提供 2B 和 7B 两个尺寸及指令微调版本。它继承了 Gemini 的核心技术，能在个人电脑或工作站本地运行，在同尺寸开源模型中表现顶尖，且允许企业和个人免费商用。

  18. 传播指数 34

    开源模型新霸主：Abacus AI 推出 Smaug-72B，多项基准超 GPT-3.5

    初创公司 Abacus AI 公布基于通义千问 Qwen-72B 微调的模型 Smaug-72B。它是首个在 Hugging Face 开源排行榜上综合均分破 80 的模型，在多个基准测试中超过了 GPT-3.5 和 Mistral Medium。团队针对推理和数学能力做了专项微调，模型现已完全开源。