구글, 멀티모달·128K 지원 인코더-디코더 모델 'T5Gemma 2' 공개

T5Gemma 2는 구글이 젬마 3를 기반으로 설계한 차세대 오픈 인코더-디코더 모델 제품군입니다. 해당 아키텍처 계열 최초로 멀티모달 시각 이해와 128K 토큰의 긴 콘텍스트를 동시에 지원합니다.

온디바이스 환경이나 엣지 장비에서 특정 작업용으로 파인튜닝해 올릴 작고 빠른 베이스 모델을 찾고 있다면 정확히 부합하는 선택지입니다.

무엇을 할 수 있나

T5Gemma 2는 고효율 비전 인코더를 탑재해 텍스트와 이미지를 함께 입력받아 시각적 질의응답과 추론 작업을 매끄럽게 처리합니다.

젬마 3의 국소 및 전역 어텐션 교차 메커니즘을 적용해 최대 128K 토큰 길이의 문맥을 읽어낼 수 있으며, 140개 이상의 다국어를 지원합니다.

모델 규격은 총 세 가지로 제공됩니다. 비전 인코더를 제외한 파라미터 기준으로 최소 크기인 270M-270M은 약 3.7억 개, 중간급인 1B-1B는 약 17억 개, 가장 큰 4B-4B는 약 70억 개 수준으로 매우 가볍습니다.

벤치마크 결과 코딩과 다국어 추론, 멀티모달 성능 전반에서 동급 젬마 3 대비 뛰어난 성적을 냈으며, 특히 긴 문맥 처리에서 확연한 품질 향상을 보였습니다.

파라미터를 줄인 비결

구글은 소형 모델의 메모리 효율을 극대화하기 위해 두 가지 핵심적인 구조 변경을 단행했습니다.

첫 번째는 인코더와 디코더의 단어 임베딩을 공유하도록 묶은 점입니다. 중복 가중치를 대폭 덜어내 3.7억 급의 가장 작은 모델에도 충분한 표현력을 담아냈습니다.

두 번째는 디코더의 어텐션 통합입니다. 셀프 어텐션과 크로스 어텐션을 단일 계층으로 합쳐 파라미터 수와 복잡도를 낮추고 추론 병렬화 속도를 끌어올렸습니다.

제약과 사용 방법

주의할 점은 이번 배포가 사전 학습 체크포인트에 한정된다는 사실입니다. 즉시 대화가 가능한 지시 튜닝 버전은 포함되어 있지 않습니다.

구글이 공개한 포스트 트레이닝 결과 역시 강화학습 없이 아주 가벼운 미세조정만 거친 예시 수치입니다. 실제 배포 전 개발자가 직접 특정 도메인 데이터로 추가 학습을 거쳐야 합니다.

체크포인트는 현재 주요 오픈 플랫폼에서 내려받을 수 있으며, 자체 파인튜닝 파이프라인에 즉시 연결 가능합니다.

왜 중요한가

온디바이스 환경에서는 디코더 단일 모델이 대세로 자리잡았지만, 문서 정보 추출이나 이미지 분류 같은 특정 작업에서는 인코더-디코더 구조가 여전히 효율적입니다.

수억에서 수십억 파라미터 수준의 가벼운 크기로 128K 문맥과 비전 기능을 동시에 확보할 수 있다는 점은 현장 개발자에게 매우 실질적인 무기입니다. 직접 튜닝해야 하는 번거로움은 있지만, 경량화 배포를 노리는 팀이라면 테스트해 볼 가치가 충분합니다.