구글, 제미나이 기술 담은 오픈 모델 '젬마' 공개…노트북 구동 및 상업적 사용 가능

젬마(Gemma)는 구글이 플래그십 AI인 제미나이(Gemini)의 기술과 연구 인프라를 바탕으로 개발한 경량 오픈 언어 모델 제품군입니다. 일반 노트북이나 데스크톱에서도 로컬로 직접 실행할 수 있습니다.

모델은 2B와 7B 두 가지 파라미터 크기로 제공되며, 각 크기마다 사전 학습된 베이스 모델과 지시어 튜닝(Instruction-tuned) 모델로 나뉩니다. 두 모델 모두 8K 토큰의 컨텍스트 길이를 지원합니다.

특징과 실행 환경

젬마는 일반 개발 장비에서도 원활하게 구동되도록 최적화되었습니다. 별도의 양자화 없이도 개인용 컴퓨터 하드웨어에서 직접 실행할 수 있을 정도로 가볍습니다.

2B 모델은 일반 CPU나 모바일 기기, 온디바이스 환경에 적합하며, 7B 모델은 소비자용 GPU나 TPU 환경에서 최적의 성능을 냅니다.

구글은 기업 규모에 관계없이 상업적 이용과 재배포를 허용하는 라이선스를 적용했습니다. 또한 모델의 안전성을 높이고 동작 문제를 점검할 수 있도록 돕는 책임 있는 생성형 AI 툴킷도 함께 공개했습니다.

벤치마크 성능과 비교

허깅페이스 오픈 LLM 리더보드에 따르면, 6T 토큰으로 학습된 젬마 7B는 63.75점을 기록했습니다. 이는 동급 경쟁 모델인 미스트랄 7B(60.97점)와 라마 2 7B(54.32점)를 앞서는 수치이며 훨씬 큰 파라미터를 가진 대형 모델에 근접한 수준입니다.

반면 2T 토큰으로 학습된 젬마 2B는 46.51점을 기록했습니다. 작은 크기 대비 준수한 편이지만, 비슷한 체급의 대표 주자인 마이크로소프트 Phi-2(61.33점)와 비교하면 벤치마크 점수에서 다소 뒤처집니다.

대화형 튜닝 모델을 쓸 때는 특정 턴 구분 태그 규격을 정확하게 지켜야 원하는 출력을 안정적으로 얻을 수 있습니다.

사용 방법과 시작하기

생태계 지원도 빠릅니다. 파이토치(PyTorch), JAX, 케라스 3.0을 기본 지원하며 허깅페이스 트랜스포머 4.38 버전부터 곧바로 불러와 4비트 양자화나 단일 GPU 미세 조정을 진행할 수 있습니다.

체험을 원한다면 허깅챗(Hugging Chat)의 웹 데모를 이용하거나 캐글(Kaggle) 및 구글 코랩(Colab)의 무료 노트북 환경을 통해 즉시 실행해볼 수 있습니다. 모델 가중치는 허깅페이스 허브를 통해 다운로드할 수 있습니다.

왜 중요한가

온디바이스 AI를 구현하거나 값비싼 클라우드 API 대신 로컬 환경에서 모델을 굴려야 하는 개발자라면 젬마 7B는 즉시 테스트해볼 가치가 충분합니다. 7B 체급에서 최상위권의 성능을 내면서도 상업적 활용에 제약이 적습니다.

구글이 제미나이의 핵심 기술을 오픈 가중치 형태로 내놓으면서, 메타의 라마와 미스트랄이 주도하던 오픈소스 경량 모델 생태계의 주도권 경쟁이 한층 치열해졌습니다.