문샷 AI, 2.8조 파라미터 오픈 모델 'Kimi K3' 공개

문샷 AI가 2.8조 파라미터 규모의 오픈 모델 Kimi K3를 발표했습니다. 세계 최초의 3T급 오픈 모델로, 100만 토큰 컨텍스트 창과 네이티브 비전 역량을 내장해 장기 자율 코딩 및 복잡한 엔지니어링 작업에 특화되어 있습니다.

무엇을 할 수 있는가

K3는 사람의 개입을 최소화한 장시간 자율 작업에서 두각을 나타냅니다. 방대한 코드 저장소를 탐색하고 터미널 도구를 직접 다루며, 화면 스크린샷과 시각 자료를 실시간으로 분석해 게임 개발, 프론트엔드, CAD 설계 작업을 반복 수정할 수 있습니다.

특히 저수준 시스템 엔지니어링 영역에서의 성과가 두드러집니다. 샌드박스 환경에서 24시간 동안 GPU 커널을 분석하고 최적화하는 테스트를 진행한 결과, K3는 GPT 5.6 Sol, GPT 5.5, Opus 4.8을 크게 앞섰으며 Claude Fable 5에 근접한 성능을 기록했습니다. 문샷 AI 개발팀에 따르면 K3 개발 후반부의 커널 최적화 작업 대부분은 초기 K3 모델이 직접 수행했습니다.

또한 자체 중간 표현 계층을 갖춘 독립형 GPU 컴파일러 MiniTriton을 바닥부터 구축해 nanoGPT 모델의 실제 학습 수렴까지 성공시켰습니다. 48시간의 연속 하드웨어 설계 실험에서는 45nm 공정 기반의 전용 추론 칩을 스스로 설계하고 검증해 시뮬레이션 환경에서 초당 8700개 이상의 토큰 처리 성능을 확보했습니다. 종합 평가 벤치마크인 AA Intelligence Index에서도 57점을 기록해 폐쇄형 선두인 Fable 5(60점)와 Sol(59점)의 바로 뒤를 이었습니다.

아키텍처와 하드웨어 요구 사양

K3는 시퀀스 길이와 모델 깊이 전반의 정보 흐름을 개선하는 Kimi Delta Attention(KDA) 및 Attention Residuals(AttnRes) 구조를 채택했습니다. Stable LatentMoE 체계를 통해 896개의 전문가 중 16개를 활성화하며, Quantile Balancing 기법을 더해 이전 K2 대비 약 2.5배 향상된 스케일링 효율을 달성했습니다.

다만 2.8조 파라미터라는 거대한 규모 탓에 하드웨어 진입 장벽은 매우 높습니다. MXFP4 가중치와 MXFP8 활성화를 적용한 양자화 인지 학습을 거쳤음에도, 원활한 전문가 병렬 통신을 위해 64개 이상의 가속기로 구성된 슈퍼노드 클러스터 배치가 권장됩니다.

모델의 전체 가중치는 2026년 7월 27일 공개될 예정이며, 기술 보고서와 vLLM 프리픽스 캐싱 패치도 함께 배포됩니다.

자체 인프라 구축 없이 바로 사용해 보려면 공식 서비스 채널을 통하면 됩니다. 현재 kimi.com, Kimi Work 3.1.0 데스크톱 앱, 터미널 환경의 Kimi Code, 그리고 공식 API에서 서비스 중입니다. API 비용은 캐시 적중 시 100만 토큰당 0.30달러, 미적중 시 3.00달러, 출력은 15.00달러로 책정되었습니다.

왜 중요한가

Kimi K3는 오픈 가중치 모델과 빅테크 폐쇄형 플래그십 간의 기술 격차를 크게 좁혔다는 점에서 의미가 큽니다. 그간 오픈 진영이 최첨단 독점 모델보다 최소 반년에서 1년 이상 뒤처져 있다는 평가가 지배적이었으나, K3는 복잡한 시스템 코딩과 추론 영역에서 상용 최고 수준에 실질적으로 근접했습니다.

개인 개발자나 소규모 팀이 2.8T 모델을 로컬에서 직접 구동하는 것은 불가능에 가까우므로 당장은 API나 작업용 앱으로 접근하는 것이 합리적입니다. 그러나 자체 GPU 인프라를 갖춘 기업과 연구 기관에게 7월 27일 가중치 공개는 민감한 내부 데이터를 외부 클라우드로 유출하지 않고도 최고 수준의 지능을 온프레미스로 확보할 수 있는 결정적 기회가 됩니다.