DeepSeekが推論基盤「DeepInfer」をOSS化：Huawei製チップに対応
DeepSeekはDeepSeek-V4.1-Flashを支える推論基盤「DeepInfer」をオープンソース公開した。NVIDIA SM100に加えHuawei Ascend 950 NPUにも対応し、NVIDIA製GPUなしでの配備を可能にする。完全な運用にはKVキャッシュの別途構築が必要だが、脱NVIDIAの選択肢として注目される。
DeepSeekはDeepSeek-V4.1-Flashを支える推論基盤「DeepInfer」をオープンソース公開した。NVIDIA SM100に加えHuawei Ascend 950 NPUにも対応し、NVIDIA製GPUなしでの配備を可能にする。完全な運用にはKVキャッシュの別途構築が必要だが、脱NVIDIAの選択肢として注目される。