톰슨 로이터, 법률 특화 LLM 'Thomson' 공개…CoCounsel 탑재

특정 전문 분야를 위한 AI 모델을 만들 때, 거대 연구소처럼 수천억 원을 들여 처음부터 기초 모델을 학습시켜야 할까요?

톰슨 로이터는 그렇지 않다는 것을 숫자로 증명했습니다. 8월 24일, 톰슨 로이터는 법률 실무에 특화된 자체 대형 언어 모델인 'Thomson'을 공식 발표했습니다. 이 모델은 법률 AI 어시스턴트인 CoCounsel의 대규모 문서 검토 기능인 'Tabular Analysis'에 기본 탑재되어 첫선을 보입니다.

눈에 띄는 것은 개발 비용입니다. 톰슨 로이터는 지난 2년간 인력과 컴퓨팅 자원에 약 4000만 달러를 투입했지만, 최적화를 통해 최종 학습 실행 비용은 약 45만 달러 수준까지 낮췄습니다.

150년 법률 데이터와 오픈 모델의 결합

톰슨 로이터는 모든 영역에서 최첨단 AI 연구소들과 맞붙는 무모한 방식을 피했습니다. 오픈 가중치 기반 모델을 기초로 삼고, 그 위에 회사가 보유한 독점적 법률 콘텐츠와 전문가 역량, 강화 학습을 결합하는 방식을 택했습니다.

핵심 무기는 4만 개 이상의 독립 데이터베이스와 150년 이상의 법률 편집 역사가 축적된 Westlaw 플랫폼입니다. 수백 명의 법률 전문가들이 블라인드 테스트 평가와 질문 예시 작성, 학습 목표 설정에 직접 참여했습니다. 또한 강화 학습을 통해 모델이 Westlaw 및 Practical Law 같은 기존 법률 도구를 직접 활용하도록 훈련했습니다.

톰슨 로이터의 수석 연구원 앤드루 빈에 따르면, 지금까지 사용된 데이터는 전체 보유 정보의 약 10%에 불과합니다. 그럼에도 내부 벤치마크 결과, 톰슨 로이터 데이터베이스와 연결되었을 때 답변의 완결성과 판례 인용의 정확성 측면에서 기존 프론티어 모델들과 대등하거나 근소하게 앞서는 성능을 기록했습니다.

고객 데이터는 학습에 일절 사용되지 않았으며, 관리자는 필요에 따라 다른 모델을 선택할 수도 있습니다. 톰슨 로이터는 조만간 허깅페이스에 비상업적 학술 라이선스로 경량화된 오픈 가중치 버전을 공개하고, 외부 개발자를 위한 API 포털도 구축할 계획입니다.

왜 중요한가

우리는 톰슨 로이터의 이번 전략이 엔터프라이즈 버티컬 AI가 나아갈 가장 현실적인 모범 답안을 보여준다고 봅니다.

범용 기초 모델의 치열한 스케일링 싸움은 오픈소스 생태계에 맡기고, 기업은 가장 강력한 무기인 독점 데이터와 도구 결합에만 집중한 셈입니다. 최종 훈련 비용을 45만 달러 선으로 통제할 수 있다면, 향후 더 뛰어난 오픈 모델이 등장하더라도 적은 비용으로 빠르게 갈아타며 모델을 재학습시킬 수 있습니다.

로펌이나 기업 법무팀 입장에서 법률 LLM 도입의 최대 걸림돌은 잘못된 인용과 그럴듯한 거짓말이었습니다. 검증된 Westlaw 데이터를 기반으로 출처를 정확히 대조하는 특화 모델은 방대한 계약서 검토나 실사 작업에서 즉각적인 실무 가치를 발휘할 가능성이 높습니다.

다만 장기적인 유지보수 경쟁력은 숙제로 남습니다. AI 총괄 조엘 흐론이 인정했듯, 범용 프론티어 랩들의 발전 속도가 워낙 빠르기 때문입니다. 범용 모델의 순수 추론 능력이 극적으로 향상된다면, 자체 모델을 직접 운영하는 번거로움과 비용이 과연 정당화될 수 있을지 의문이 제기될 수 있습니다. 아울러 공개된 성능 지표가 아직 독립적인 외부 기관의 검증을 거치지 않은 만큼, 조만간 공개될 학술용 모델과 벤치마크 결과를 냉정하게 지켜볼 필요가 있습니다.