가이드 랩스, 모든 토큰 추적 가능한 오픈소스 LLM '스털링-8B' 공개

스털링-8B는 스타트업 가이드 랩스가 오픈소스로 공개한 80억 매개변수 규모의 언어 모델이다. 모델이 생성하는 모든 토큰의 출처를 학습 데이터 단위까지 정확하게 추적할 수 있도록 설계된 것이 핵심이다.

기존 대규모 언어 모델은 수십억 개의 매개변수가 얽힌 블랙박스 형태여서, 환각 현상이나 편향된 출력이 발생했을 때 원인을 규명하고 통제하기가 매우 어려웠다. 스털링-8B는 모델의 기본 아키텍처를 뜯어고쳐 이 문제를 해결하고자 했다.

토큰 단위 추적의 작동 방식

학습이 끝난 모델의 가중치를 사후에 분석하는 기존 방식은 마치 뇌를 스캔하듯 불안정하고 다루기 어렵다. 가이드 랩스는 모델 내부에 '개념 레이어'를 직접 배치하는 역발상을 적용했다.

학습 데이터를 추적 가능한 범주로 묶어 처리하도록 설계했으며, 초기에 필요한 대규모 데이터 라벨링은 다른 AI 모델을 동원해 해결했다. 이를 통해 모델이 특정 사실을 언급했을 때 어떤 데이터를 참고했는지 바로 확인할 수 있다.

이 구조를 활용하면 저작권이 있는 텍스트나 폭력적인 표현을 원천 차단하기 쉬워지며, 대출 심사처럼 특정 편향 요소를 배제해야 하는 규제 환경에서도 특정 개념만 선택적으로 끌 수 있다. 팀에 따르면 이런 통제 구조를 넣었음에도 양자 컴퓨팅 같은 복잡한 개념을 모델 스스로 학습하는 등 LLM 특유의 창발적 능력은 그대로 유지됐다.

모델 제원과 활용

스털링-8B는 80억 매개변수 크기로 제작되었다. 가이드 랩스 측은 이 모델이 새로운 아키텍처 덕분에 더 적은 학습 데이터를 사용하면서도 기존 동급 모델의 약 90%에 달하는 성능을 발휘한다고 밝혔다.

현재 오픈소스로 공개되어 있으며, 2024년에 900만 달러의 시드 투자를 유치한 가이드 랩스는 향후 더 큰 규모의 모델을 학습시키고 상용 API와 에이전트 인터페이스를 제공할 계획이다.

왜 중요한가

금융이나 의료, 법률처럼 판단 근거를 명확히 남겨야 하는 규제 산업에서 AI 에이전트를 개발하고 있다면 직접 내려받아 테스트해 볼 가치가 충분하다. 모델의 추론 근거를 토큰 수준에서 감사할 수 있다는 점은 기업용 환경에서 매우 큰 이점이다.

동급 최신 모델 대비 10% 정도의 전반적인 성능 격차가 있어 일반적인 챗봇 용도로 당장 교체할 단계는 아니다. 하지만 해석 가능성을 불확실한 사후 튜닝이 아니라 명확한 엔지니어링 영역으로 끌어올렸다는 점에서, 향후 규제 대응형 특화 모델들의 중요한 설계 표준이 될 가능성이 높다.