딥시크, 긴 문맥 비용 절반으로 줄인 실험 모델 ‘V3.2-exp’ 공개

딥시크 V3.2-exp는 긴 문맥을 처리할 때 발생하는 추론 비용을 대폭 줄이기 위해 설계된 실험용 오픈 웨이트 모델입니다.

긴 문서 요약이나 대규모 코드 분석을 돌릴 때 늘어나는 서버 부하와 API 비용 문제를 정면으로 해결하는 데 목적이 있습니다.

어떻게 동작하나

핵심 기술은 '희소 어텐션(DeepSeek Sparse Attention)' 메커니즘입니다. 모든 토큰을 전부 계산하는 대신 똑똑한 선별 과정을 거칩니다.

먼저 '라이트닝 인덱서(lightning indexer)'라는 모듈이 긴 문맥 창 안에서 가장 우선순위가 높은 특정 발췌본들을 빠르게 찾아냅니다.

그다음 '세부 토큰 선택 시스템(fine-grained token selection system)'이 해당 발췌본에서 필요한 토큰만 골라내 제한된 어텐션 윈도우에 적재합니다.

전체 텍스트 대신 꼭 필요한 토큰만 연산하므로, 긴 문맥에서도 서버 부하를 크게 낮춘 상태로 동작할 수 있습니다.

성능과 사용 방법

딥시크 자체 예비 테스트에 따르면, 긴 문맥 상황에서 단순 API 호출 비용을 최대 절반까지 줄일 수 있는 것으로 나타났습니다.

현재 이 모델은 허깅페이스(Hugging Face)에 가중치가 무료로 공개되어 있으며, 상세한 기술 내용이 담긴 논문은 깃허브(GitHub)에서 확인할 수 있습니다.

오픈 웨이트 형태로 공개된 만큼, 논문에 제시된 수치와 성능은 커뮤니티의 다양한 벤치마크를 통해 빠르게 검증될 것으로 보입니다.

왜 중요한가

긴 문맥을 다루는 AI 서비스나 에이전트를 개발하는 팀이라면 반드시 주목해야 합니다. 서비스 운영에서 가장 큰 부담은 모델 학습보다 누적되는 추론 비용인데, 이를 절반으로 깎을 수 있다면 제품의 채택 기준이 달라집니다.

단순히 파라미터 크기만 늘리는 대신 트랜스포머 아키텍처의 연산 효율을 직접 개선한 점은 매우 실용적인 접근으로 보입니다. 이 방식이 실제 현장에서 안정적으로 입증된다면, 주요 상용 AI 공급사들의 긴 문맥 가격 인하를 압박하는 계기가 될 것입니다.