코그니션, 'SWE-1.7' 공개: 키미 K2.7 기반으로 GPT-5.5급 성능 달성

AI 코딩 에이전트를 운영하는 기업들은 그동안 천문학적인 API 비용과 느린 속도를 감수하며 빅테크의 폐쇄형 프론티어 모델에 의존해 왔습니다.

Devin 개발사 Cognition이 7월 8일 독자 모델 SWE-1.7을 공개하며 판도 변화를 예고했습니다. 중국의 오픈소스 모델 Kimi K2.7을 베이스로 삼아 강화학습 파이프라인을 구축했으며, GPT-5.5 및 Opus 수준의 성능에 훨씬 저렴한 비용으로 도달했습니다. 이 모델은 Devin 웹, 데스크톱, CLI에 즉시 적용되었으며, Cerebras 칩을 기반으로 초당 1,000토큰의 속도로 구동됩니다.

FrontierCode 1.1 벤치마크에서 SWE-1.7은 베이스 모델의 30.1%에서 42.3%로 크게 상승해 GPT-5.5의 43.0%에 바짝 다가섰습니다. Terminal-Bench 2.1에서는 81.5%, SWE-Bench Multilingual에서는 77.8%를 기록해 이전 세대 모델인 SWE-1.6을 큰 격차로 따돌렸습니다.

강화학습 한계론을 깬 최적화 기법

업계에서는 이미 강력한 사후 강화학습을 거친 오픈소스 베이스 모델에 추가 강화를 진행하면 성능 개선이 정체되는 사후 학습 한계가 발생한다고 여겨왔습니다.

Cognition은 이 가설을 정면으로 반박했습니다. 비동기 강화학습 도중 발생하는 엔트로피 붕괴와 추론-학습 간의 수치적 괴리를 해결하기 위해 top-p 샘플링 분포 재생 기술을 적용했습니다. 모델이 확신하는 저신호 토큰의 그래디언트를 걸러내고 유용한 탐색만 유지하도록 만들어 수백 스텝 이후에도 지속적인 성능 향상을 이끌어냈습니다. 여기에 Muon 옵티마이저를 도입하고 비결정론적 연산을 제거해 안정성을 확보했습니다.

장시간 이어지는 작업 한계를 넘기 위해 '자체 압축' 기법도 채택했습니다. 모델이 진행 중인 상태를 스스로 요약하고 요약본으로부터 작업을 재개하도록 만들어 기본 컨텍스트 길이를 초과하는 코딩 작업도 매끄럽게 처리합니다.

3개 대륙 분산 클러스터로 극복한 컴퓨팅 한계

수만 대의 GPU가 묶인 초대형 단일 패브릭 클러스터는 스타트업이 확보하기 어려운 자원입니다. Cognition은 강화학습에서 메인 트레이너만 고대역폭 네트워크에 있으면 되고, 롤아웃을 생성하는 추론 엔진은 어디에 분산되어도 무방하다는 점에 착안했습니다.

자체 GPU와 Fireworks 같은 클라우드 자원을 엮어 3개 대륙 4개 데이터센터에 걸친 훈련 환경을 구축했습니다. 대륙 간 가중치 전송 부담을 줄이기 위해 압축 델타 전송 기술을 적용해 데이터 크기를 99% 이상 줄였습니다.

클라우드 오브젝트 스토리지를 단일 기준점으로 활용해 1조 파라미터 모델의 전 세계 동기화를 1~2분 만에 끝내며, 추론 중단 시간은 3~4초에 불과합니다. 하드웨어 장애가 발생해도 NVIDIA Dynamo가 세션을 다른 작업 노드로 자동 재라우팅해 작업 손실을 막아냅니다.

왜 중요한가

Devin을 업무에 도입하려는 개발자에게 초당 1,000토큰의 응답 속도와 긴 호흡의 컨텍스트 유지력은 직접적인 생산성 향상으로 이어집니다. 복잡한 버그 수정이나 비동기 소프트웨어 엔지니어링 작업을 맡기기에 충분히 실용적인 단계에 들어섰으므로 지금 사용해 볼 가치가 충분합니다.

산업 측면에서는 수억 달러 규모의 사전 훈련 없이도 뛰어난 오픈소스 모델(Kimi K2.7)을 바탕으로 정교한 강화학습 인프라를 구축하면 거대 빅테크의 독점 모델을 따라잡을 수 있음을 입증했습니다.

단일 메가 클러스터 부족이라는 물리적 한계를 분산 인프라와 델타 전송 엔지니어링으로 영리하게 우회한 점은 높이 평가할 만합니다. 다만 오픈소스 파운데이션 모델에 대한 의존도가 높은 만큼, 기반 아키텍처가 급변할 때 다운스트림 파이프라인의 차별성과 최적화 효율을 계속 유지할 수 있을지가 앞으로의 시험대가 될 것으로 보입니다.