ornith-ai, 단일 GPU로 구동되는 오프소스 모델 Ornith-1.5-122B 공개

Ornith-1.5-122B는 ornith-ai가 공개한 122B 규모의 오픈소스 MoE 추론 모델로, 복잡한 코딩과 에이전트 작업에 특화되어 있습니다.

이전 세대인 Ornith-1.0이 Qwen3.5 및 Gemma4 기반 추가 학습에 머물렀다면, 이번 1.5 버전은 엔드투엔드 자기 개선 루프를 채택했습니다. 사람이 만든 고정 데이터셋 대신, 모델이 직접 새로운 학습 과제를 생성하고 해결 전략을 탐색하며 강화학습을 거치는 구조를 구축했습니다.

스펙과 벤치마크 성능

총 파라미터는 122B이며, 활성 파라미터는 약 10B 수준입니다. 가장 큰 기술적 장점은 이 체급의 모델을 단일 80GB GPU 한 장에서 서빙할 수 있다는 점입니다. 온디바이스 환경을 위한 경량화 버전인 Ornith-1.5-122B-Mobile도 함께 제공됩니다.

벤치마크 결과에서는 경쟁 상대인 Qwen3.8-Flash-Next(125B)를 다수 앞질렀습니다. 리워드 해킹 방지가 적용된 SWE-bench Pro에서 76.9점을 기록해 Qwen3.8-Flash-Next의 43.9점을 크게 앞섰으며, SWE-bench Verified에서도 84.5점으로 우위를 보였습니다.

도구를 사용하는 복합 추론 평가 HLE에서는 48.0점 대 38.0점으로 앞섰고, NL2Repo에서도 51.2점을 받았습니다. 다만 터미널 환경 평가인 TerminalBench 2.1에서는 81.2점을 기록해 Qwen3.8-Flash-Next의 83.4점보다 소폭 낮았습니다.

구동 방법과 환경

모델 가중치는 허깅페이스에 공개되어 있으며, Google Colab과 Kaggle 실행 환경도 지원합니다.

로컬 또는 클라우드 서버 배포 시에는 최신 런타임이 필요합니다. Transformers 5.8.1 이상, vLLM 0.19.1 이상 또는 SGLang 0.5.9 이상이 요구됩니다.

기본 컨텍스트 창은 262,144(256K) 토큰이며, vLLM이나 SGLang 환경에서 YaRN RoPE 스케일링(인수 4.0)을 적용하면 최대 100만 토큰까지 확장할 수 있습니다. 다만 정적 YaRN 설정은 일반적인 길이의 텍스트 처리 품질을 소폭 떨어뜨릴 수 있어 긴 문맥이 필요한 작업에만 켜는 편이 좋습니다.

왜 중요한가

자체 인프라에서 코딩 에이전트를 운영하려는 개발자에게 단일 80GB GPU로 고성능 122B MoE를 띄울 수 있다는 점은 도입 장벽을 크게 낮춰 줍니다. 다중 GPU 분산 설정 없이도 최상위급 에이전트 성능을 확보할 수 있습니다.

또한 합성 과제 생성과 강화학습을 결합한 자기 개선 파이프라인이 유효함을 증명했다는 점도 주목할 만합니다. 추론 과정 출력에 따른 토큰 소모와 속도 측면을 감안하더라도, 복잡한 소프트웨어 버그 수정이나 코드베이스 분석에 즉시 테스트해 볼 가치가 충분합니다.