딥시크, V3.1 공개: 템플릿 하나로 사고 모드와 일반 응답 전환

DeepSeek-V3.1은 깊이 있는 사고 추론과 빠른 일반 응답을 한 번에 처리하는 오픈소스 하이브리드 대형 언어 모델이다. 전체 파라미터 671B, 활성 파라미터 37B 규모이며 128K 문맥 길이를 기본 지원한다. 기본 모델과 완성형 모델 가중치 모두 허깅페이스와 ModelScope에서 내려받을 수 있다.

어떤 모델인가

사고 모델과 일반 대화 모델을 별도로 띄워둘 필요가 없다. DeepSeek-V3.1은 챗 템플릿만 살짝 바꿔주면 모델 하나로 사고 모드와 비사고 모드를 매끄럽게 오갈 수 있다.

사고 모드 작동 시 기존 DeepSeek-R1-0528에 견줄 만한 답변 품질을 내놓으면서도 응답 속도는 눈에 띄게 빨라졌다.

에이전트 역량과 도구 호출 능력도 크게 보강됐다. SWE 및 Terminal-Bench 벤치마크에서 개선된 결과를 보여주며 복잡한 다단계 검색과 터미널 작업 처리 능력이 한층 탄탄해졌다.

공식 API에서는 일반 대화용 deepseek-chat과 사고용 deepseek-reasoner 모두 128K 문맥을 지원한다. 아울러 Anthropic API 규격을 호환하며 베타 API를 통해 엄격한 함수 호출(Strict Function Calling) 기능도 제공한다.

구동 방식과 실행 방법

이러한 하이브리드 성능은 2단계 긴 문맥 확장과 사후 학습을 통해 구현됐다. 베이스 모델 단계에서 총 840B 토큰 규모의 긴 문맥 사전 학습을 추가로 진행했다.

구체적으로 32K 확장 단계 학습량을 기존 대비 10배 늘려 630B 토큰을 투입했고, 128K 확장 단계 역시 3.3배 늘린 209B 토큰을 학습시켰다. 가중치와 활성화 값에는 마이크로스케일링을 지원하는 UE8M0 FP8 데이터 포맷이 적용됐다.

로컬 배포를 지원하기 위해 트랜스포머스, vLLM, SGLang 환경 설정이 함께 공개됐다. vLLM을 쓰면 명령어 하나로 OpenAI 호환 서버를 바로 구동할 수 있다.

다만 671B 크기의 MoE 구조인 만큼 활성 파라미터가 37B라 해도 온프레미스 구동에는 여러 대의 전문 엔터프라이즈 GPU가 필수적이다. 가볍게 써보려면 chat.deepseek.com 웹 화면에서 DeepThink 버튼을 눌러 테스트해보면 된다. 기존 API 요금과 심야 할인 혜택은 2025년 9월 5일 16:00 UTC까지 유지된다.

왜 중요한가

느린 심층 추론과 빠른 일상 대화를 가중치 하나로 묶어내면서 시스템 운영 복잡도와 인프라 비용을 대폭 줄였다. 템플릿 제어만으로 추론 강도를 조절할 수 있다는 점은 실제 엔지니어링 환경에서 매우 매력적이다.

도구 호출 성능을 보강하고 Anthropic API 규격까지 품으면서 에이전트 개발자들의 마이그레이션 장벽도 크게 낮아졌다. 로컬 구동 사양이 여전히 무겁다는 점을 빼면, 기업용 자체 인프라나 API 구축 시 오픈소스 진영에서 가장 먼저 검토해야 할 최상위 모델 중 하나다.