DeepSeekが推論基盤「DeepInfer」をOSS化:Huawei製チップに対応
DeepSeekはDeepSeek-V4.1-Flashを支える推論基盤「DeepInfer」をオープンソース公開した。NVIDIA SM100に加えHuawei Ascend 950 NPUにも対応し、NVIDIA製GPUなしでの配備を可能にする。完全な運用にはKVキャッシュの別途構築が必要だが、脱NVIDIAの選択肢として注目される。
DeepSeekはDeepSeek-V4.1-Flashを支える推論基盤「DeepInfer」をオープンソース公開した。NVIDIA SM100に加えHuawei Ascend 950 NPUにも対応し、NVIDIA製GPUなしでの配備を可能にする。完全な運用にはKVキャッシュの別途構築が必要だが、脱NVIDIAの選択肢として注目される。
DeepSeekは、552BパラメータのMoEモデル「DeepSeek-V4.1-Flash」をAPIで提供開始した。因果的エンコーダ・デコーダ構成を採用し、入力時のアクティブパラメータを8Bに抑制。KVキャッシュに必要なHBMを従来の4分の1、SSDを8分の1に抑えつつ、V4-Proを上回る性能を発揮する。