노우스 리서치, 추론 모델 '에르메스 4' 공개 및 챗 플랫폼 개편

노우스 리서치가 라마 3.1 70B를 기반으로 제작된 오픈 가중치 하이브리드 추론 모델 '에르메스 4'를 공개했습니다. 이와 함께 사용자들이 모델을 바로 테스트해 볼 수 있도록 개편된 노우스 챗 웹 플랫폼도 함께 선보였습니다.

에르메스 4의 핵심은 유연한 추론 모드입니다. 사용자가 심층적인 고민을 지시하거나 모델이 필요하다고 판단하면 내부 사고 과정을 명시적인 <think> 태그 안에 단계별로 기록한 뒤 최종 답변을 도출합니다. 빠른 응답 속도가 필요한 상황이라면 내부 추론 단계를 건너뛰고 간결한 답변만 바로 받도록 설정할 수도 있습니다.

무엇을 할 수 있나

이번 버전에서는 사후 학습 데이터셋의 규모가 대폭 확장되었습니다. 이전의 100만 개 샘플과 12억 토큰 수준에서 약 500만 개 샘플, 600억 토큰 규모로 늘어났으며, 검증된 추론 경로 데이터가 집중적으로 반영되었습니다. 이를 통해 수학, 코딩, STEM 분야의 논리 연산은 물론, 사전에 지정된 규격에 맞게 JSON을 출력하고 깨진 데이터 구조를 스스로 복구하는 기능이 강화되었습니다.

외부 도구를 호출하는 기능도 추론 흐름과 자연스럽게 결합되었습니다. 단일 대화 턴 내에서 <think> 태그를 통해 도구 사용 필요성을 검토한 뒤 <tool_call> 태그를 생성하고, 시스템으로부터 응답을 받아 다시 생각 과정을 거친 후 완성된 답변을 내놓습니다. vLLM 및 SGLang과 같은 추론 엔진을 위한 파서도 기본적으로 연동을 지원합니다.

또한 노우스 리서치는 모델이 사용자의 지시를 얼마나 편견 없이 수행하는지 측정하는 자체 벤치마크 'RefusalBench'를 마련했습니다. 에르메스 4는 이 테스트에서 오픈소스 및 상용 모델들을 제치고 가장 높은 순응도를 기록하며, 불필요한 답변 거부율을 현저히 낮췄습니다.

실행 방법과 사양

모델 가중치는 허깅페이스에 완전히 공개되어 있으며, 라마 3 챗 형식을 그대로 따릅니다. 70B 모델을 원본 정밀도로 실행하려면 전문적인 다중 GPU 서버 환경이 필요하지만, 양자화를 거치면 워크스테이션 환경에서도 구동할 수 있습니다. 권장 샘플링 설정은 temperature 0.6, top_p 0.95, top_k 20입니다.

개인 하드웨어를 직접 설정하기 번거롭다면 새롭게 개편된 노우스 챗 사이트에서 웹으로 즉시 사용해 볼 수 있습니다. 기술 보고서에는 70B 버전 외에도 405B 규모에 적용 가능한 템플릿 설정이 명시되어 있습니다.

왜 중요한가

대다수 상용 모델들은 지나치게 엄격한 안전 가이드라인 때문에 조금만 까다로운 코딩 질문이나 창작 지시를 내려도 답변을 거부하는 경우가 많습니다. 에르메스 4는 이러한 불필요한 제약을 걷어내고 통제 권한을 사용자에게 온전히 돌려줍니다. 정확한 JSON 출력이 필요한 로컬 에이전트를 구축하거나, 모델의 자의적인 거부 반응 없이 정밀한 프롬프트 제어가 필요한 개발자에게 매우 강력한 대안입니다.