문샷 AI, Kimi K2.7-Code 고속 모드 출시… 최대 6배 빨라져

추론형 코딩 모델을 써본 개발자라면 누구나 공감할 답답함이 있습니다. 코드 두 줄 고치자고 엔터를 쳤는데, 모델이 수십 초 동안 혼자 깊은 생각에 빠져 화면만 깜빡이는 순간입니다.

문샷 AI가 바로 이 지점을 파고들었습니다. 6월 12일 Kimi K2.7-Code를 공개한 데 이어, 6월 15일에는 Kimi Code Beta에 최대 6배 빠른 HighSpeed 모드를 전격 추가했다고 발표했습니다.

중간 길이의 코딩 입력에서는 초당 약 180토큰, 짧은 문맥 작업에서는 초당 최대 260토큰의 처리량을 뽑아냅니다. 여러 작업을 묶어 대량으로 돌리는 에이전트 워크플로 환경에서는 체감 속도가 완전히 달라지는 수치입니다.

구조는 유지하고 후속 학습으로 거품을 뺐다

흥미로운 점은 K2.7-Code의 기본 아키텍처가 이전 버전인 K2.5나 K2.6과 완전히 동일하다는 사실입니다.

1조 개 매개변수의 MoE(전문가 혼합) 구조를 채택해 384개 전문가 중 토큰당 8개의 전문가와 1개의 공유 전문가만 활성화합니다. 실제 연산 매개변수는 약 320억 개 수준으로 묶어두고, 딥시크가 고안한 MLA(다중 헤드 잠재 어텐션)를 적용해 256K에 달하는 긴 문맥을 가볍게 소화합니다.

이 모델은 빠른 응답을 위한 즉시 모드가 없으며, 대화가 이어져도 추론 상태를 보존하는 생각 모드로만 동작합니다. 그럼에도 추론 토큰을 30%가량 줄일 수 있었던 비결은 포스트 트레이닝에 있습니다.

문샷은 코드 데이터에 가중치를 높여 후속 훈련을 진행했고, 이를 통해 길게 늘어지던 추론 사슬을 압축했습니다. 학계가 지적해 온 과도한 생각, 즉 불필요한 토큰만 낭비하고 정확도는 떨어지는 현상을 기술적으로 쳐낸 셈입니다.

빠른 배포 뒤에 가려진 벤치마크 공백

접근성은 폭넓게 열어두었습니다. 허깅페이스에서 수정된 MIT 라이선스로 가중치를 내려받을 수 있고, API 가격은 100만 입력 토큰당 0.95달러, 출력 토큰당 4.00달러로 책정되었습니다. 터미널 기반 코딩 도구인 Kimi Code는 월 19달러부터 시작합니다.

하지만 명확한 한계도 존재합니다.

추론 토큰 30% 절감이라는 핵심 주장은 문샷이 자체 제작해 실행한 5개의 독자 벤치마크 결과일 뿐입니다. 현재까지 공인된 외부 독립 코딩 벤치마크에는 단 한 건의 공식 결과도 제출하지 않았습니다.

왜 중요한가

우리는 문샷의 이번 시도가 개발자들의 실질적인 고통을 영리하게 건드렸지만, 검증 측면에서는 숙제를 남겼다고 봅니다.

자동화 코딩 환경에서 긴 생각 시간은 곧 비용 증가와 생산성 저하를 의미합니다. 초당 260토큰의 속도로 지연 시간을 줄여준다면, 저렴한 API나 월 19달러 플랜으로 개인 워크플로에서 테스트해 볼 가치는 충분합니다.

알리바바, 텐센트, 차이나모바일 등의 지원 속에 기업가치 200억 달러를 넘어선 문샷의 속도전도 주목할 만합니다. 2025년 7월 K2 기본 모델을 선보인 이후 벌써 다섯 번째 메이저 업데이트를 내놓으며 빅테크들과의 격차를 공격적으로 좁히고 있습니다.

다만 독립 벤치마크를 건너뛴 점은 불안 요소입니다. 추론 과정을 억지로 줄이는 과정에서 복잡한 엣지 케이스를 해결하는 문제 해결 능력이 훼손되었을 가능성을 배제하기 어렵습니다. 제3자의 객관적인 성능 검증 데이터가 나오기 전까지는, 핵심 프로덕션 환경에 무턱대고 도입하기에는 조심스러운 시점입니다.