DeepSeek 開源自研推理框架 DeepInfer:支援華為晶片,無需輝達即可部署
DeepSeek 開源高效能推理框架 DeepInfer,用於驅動 DeepSeek-V4.1-Flash 模型。除了輝達 SM100,它還原生適配華為昇騰 950 NPU,讓企業無需輝達硬體即可離線部署。不過完整線上服務仍需自行配置 KV cache 等周邊元件。
DeepSeek 開源高效能推理框架 DeepInfer,用於驅動 DeepSeek-V4.1-Flash 模型。除了輝達 SM100,它還原生適配華為昇騰 950 NPU,讓企業無需輝達硬體即可離線部署。不過完整線上服務仍需自行配置 KV cache 等周邊元件。