딥시크, 추론 프레임워크 'DeepInfer' 오픈소스 공개…화웨이 칩 지원
딥시크가 DeepSeek-V4.1-Flash 모델을 구동하는 추론 프레임워크 'DeepInfer'를 오픈소스로 공개했다. 엔비디아 SM100 외에 화웨이 어센드 950 NPU를 지원해 엔비디아 칩 없이도 배포할 수 있다. 다만 완전한 서비스를 구축하려면 별도의 KV 캐시 시스템 구축이 필요하다.
딥시크가 DeepSeek-V4.1-Flash 모델을 구동하는 추론 프레임워크 'DeepInfer'를 오픈소스로 공개했다. 엔비디아 SM100 외에 화웨이 어센드 950 NPU를 지원해 엔비디아 칩 없이도 배포할 수 있다. 다만 완전한 서비스를 구축하려면 별도의 KV 캐시 시스템 구축이 필요하다.