DeepSeek 開源自研推理框架 DeepInfer:支援華為晶片,無需輝達即可部署
DeepSeek 開源高效能推理框架 DeepInfer,用於驅動 DeepSeek-V4.1-Flash 模型。除了輝達 SM100,它還原生適配華為昇騰 950 NPU,讓企業無需輝達硬體即可離線部署。不過完整線上服務仍需自行配置 KV cache 等周邊元件。
DeepSeek 開源高效能推理框架 DeepInfer,用於驅動 DeepSeek-V4.1-Flash 模型。除了輝達 SM100,它還原生適配華為昇騰 950 NPU,讓企業無需輝達硬體即可離線部署。不過完整線上服務仍需自行配置 KV cache 等周邊元件。
DeepSeek 上線 DeepSeek-V4.1-Flash。該模型擁有 552B 引數,採用因果編解碼器架構,輸入僅啟用 8B 引數。其原生支援多模態,KV 快取僅需上一代 1/4 的 HBM 與 1/8 的 SSD 儲存,效能超越旗艦 V4-Pro。目前已在 API 正式上線。