딥시크, 추론 프레임워크 'DeepInfer' 오픈소스 공개…화웨이 칩 지원
딥시크가 DeepSeek-V4.1-Flash 모델을 구동하는 추론 프레임워크 'DeepInfer'를 오픈소스로 공개했다. 엔비디아 SM100 외에 화웨이 어센드 950 NPU를 지원해 엔비디아 칩 없이도 배포할 수 있다. 다만 완전한 서비스를 구축하려면 별도의 KV 캐시 시스템 구축이 필요하다.
딥시크가 DeepSeek-V4.1-Flash 모델을 구동하는 추론 프레임워크 'DeepInfer'를 오픈소스로 공개했다. 엔비디아 SM100 외에 화웨이 어센드 950 NPU를 지원해 엔비디아 칩 없이도 배포할 수 있다. 다만 완전한 서비스를 구축하려면 별도의 KV 캐시 시스템 구축이 필요하다.
딥시크가 552B 매개변수 MoE 모델 'DeepSeek-V4.1-Flash'를 API로 공식 출시했다. 새로운 인과적 인코더-디코더 설계를 적용해 입력 시 8B 매개변수만 활성화한다. KV 캐시 HBM을 전작의 4분의 1, SSD 스토리지를 8분의 1 수준으로 줄였으며 플래그십 모델인 V4-Pro보다 빠른 속도를 제공한다.