DeepSeek 开源自研推理框架 DeepInfer:支持华为芯片,无需英伟达即可部署
DeepSeek 开源高性能推理框架 DeepInfer,用于驱动 DeepSeek-V4.1-Flash 模型。除了英伟达 SM100,它还原生适配华为昇腾 950 NPU,让企业无需英伟达硬件即可离线部署。不过完整在线服务仍需自行配置 KV cache 等周边组件。
DeepSeek 开源高性能推理框架 DeepInfer,用于驱动 DeepSeek-V4.1-Flash 模型。除了英伟达 SM100,它还原生适配华为昇腾 950 NPU,让企业无需英伟达硬件即可离线部署。不过完整在线服务仍需自行配置 KV cache 等周边组件。
DeepSeek 上线 DeepSeek-V4.1-Flash。该模型拥有 552B 参数,采用因果编解码器架构,输入仅激活 8B 参数。其原生支持多模态,KV 缓存仅需上一代 1/4 的 HBM 与 1/8 的 SSD 存储,性能超越旗舰 V4-Pro。目前已在 API 正式上线。