바이트댄스, 512K 컨텍스트 지원 오픈소스 모델 'Seed-OSS-36B' 공개

바이트댄스 산하 Seed 연구팀이 360억 파라미터 규모의 오픈소스 대형 언어 모델 'Seed-OSS-36B'를 허깅페이스에 공개했습니다. 네이티브 512K 토큰 컨텍스트 처리와 함께 개발자가 모델의 추론 깊이를 직접 제어하는 '생각 예산' 기능을 지원합니다.

전체 모델은 아파치 2.0 라이선스로 배포됩니다. 기업은 별도 라이선스 비용이나 API 사용료 없이 사내 시스템은 물론 고객 대상 상용 서비스에 자유롭게 적용할 수 있습니다.

무엇을 할 수 있고 어떻게 작동하나

이번 릴리스는 세 가지 버전으로 제공됩니다. 합성 지시 데이터를 포함해 벤치마크 점수를 높인 베이스 모델, 데이터 편향을 배제해 연구 기준점으로 삼을 수 있는 비합성 베이스 모델, 그리고 지시 수행 능력을 극대화한 'Seed-OSS-36B-Instruct'입니다.

모델은 64개 레이어 구조에 그룹 쿼리 어텐션(GQA), SwiGLU 활성화 함수, RMSNorm 등을 채택했으며, 어휘 크기는 15만 5천 토큰입니다.

가장 큰 강점은 512K 토큰에 달하는 컨텍스트 길이입니다. 약 1,600페이지 분량의 텍스트를 한 번에 처리할 수 있는 수준으로, OpenAI GPT-5 계열 한도의 두 배에 달합니다. 128K 길이 환경의 RULER 벤치마크에서는 94.6점을 기록해 오픈소스 모델 중 최고 성적을 거뒀습니다.

개발자가 추론 비용을 조절하는 생각 예산 기능도 적용됐습니다. 엔비디아 Nemotron-Nano-9B-v2 등과 유사한 방식으로, 답변 전 모델이 수행할 추론 토큰 수를 512의 배수로 지정할 수 있습니다. 예산을 0으로 두면 즉각 응답 모드로 작동해 지연 시간을 대폭 줄입니다.

성능 벤치마크도 뛰어납니다. Instruct 버전은 수학 추론인 AIME24에서 91.7%, 코딩 평가인 LiveCodeBench v6에서 67.4점을 기록하며 오픈소스 최고 수준의 점수를 냈습니다.

시작하는 방법

모델 가중치는 허깅페이스에서 바로 내려받을 수 있습니다. 36B 크기 모델로 512K 컨텍스트를 온전히 구동하려면 고사양 엔터프라이즈 GPU 클러스터가 필요하지만, 생각 예산을 낮춰 태스크에 맞게 배포 효율을 조정할 수 있습니다.

왜 중요한가

대규모 코드베이스 분석이나 장문 기술 문서 처리를 자체 인프라에서 해결해야 하는 개발팀에 매력적인 선택지입니다.

완전한 상업적 활용을 보장하는 아파치 2.0 라이선스를 채택하고, 지연 시간과 추론 품질을 직접 저울질할 수 있는 유연성을 제공한다는 점에서 실무 가치가 매우 높습니다.