메타, '라마 3.3 70B' 공개… 405B급 성능을 저비용으로 구현

라마 3.3 70B는 메타가 공개한 오픈 텍스트 모델로, 과거 405B 초대형 플래그십 모델급 성능을 70B의 크기와 운영 비용으로 구현한 것이 핵심입니다.

막대한 비용의 슈퍼컴퓨팅 인프라를 직접 구축하지 않고도 최상위급 언어 이해와 추론 능력을 로컬이나 자체 서버에서 활용할 수 있습니다.

무엇을 할 수 있나

메타 생성형 AI 부문 부사장 아흐마드 알달레가 공개한 벤치마크에 따르면, 라마 3.3 70B는 종합 언어 이해 능력을 평가하는 MMLU 테스트에서 오픈AI의 GPT-4o, 구글의 제미나이 1.5 프로, 아마존의 신규 모델 노바 프로를 모두 앞섰습니다.

메타는 수학적 계산, 일반 상식 질의응답, 지시문 준수, 외부 앱 및 툴 연동 기능 등에서 두드러진 성능 개선을 이뤘다고 설명했습니다.

정교한 AI 에이전트 구축이나 복잡한 비즈니스 로직 처리를 위한 기본 모델로 손색이 없습니다.

구현 방식과 라이선스

405B급의 체급을 70B로 압축할 수 있었던 비결은 고도화된 사후 학습 기법에 있습니다.

알달레 부사장은 온라인 선호도 최적화를 비롯한 최신 사후 학습 방식을 적용해, 파라미터 수를 억지로 늘리지 않고도 모델 내부의 핵심 잠재력을 극한으로 끌어올렸다고 밝혔습니다.

모델 가중치는 허깅페이스와 메타 공식 라마 웹사이트에서 즉시 내려받아 상업적으로 활용할 수 있습니다.

라이선스 조건은 이전 라마 제품군과 동일합니다. 대부분의 기업과 개발자에게 무료 개방되지만, 월간 활성 사용자 7억 명 이상의 대형 플랫폼은 별도의 상용 라이선스를 메타에 신청해야 합니다.

왜 중요한가

자체 인프라 구축이나 파인튜닝을 준비 중인 팀이라면 라마 3.3 70B는 지금 당장 도입을 검토할 가치가 충분합니다. 기존 405B 모델은 성능은 뛰어났지만 하드웨어 진입 장벽이 너무 높았던 반면, 70B는 일반적인 멀티 GPU 서버에서도 실질적인 운영이 가능합니다.

이번 출시는 정교한 사후 학습만으로도 오픈소스 모델이 폐쇄형 유료 API인 GPT-4o를 성능 지표에서 넘어설 수 있음을 증명했습니다. 비싼 클라우드 API 종속에서 벗어나 독립적인 AI 시스템을 만들려는 엔지니어들에게 가장 강력한 대안이 될 것입니다.