구글, 차분 프라이버시로 처음부터 학습한 10억 파라미터 LLM '볼트젬마' 공개
구글과 딥마인드가 차분 프라이버시(DP) 기법으로 처음부터 학습한 1B 오픈 모델 '볼트젬마'를 공개했다. 수학적 노이즈를 더해 민감 데이터 암기를 방지한다. 벤치마크 성능은 비슷한 크기의 초기 GPT-2 수준에 머물지만, 프라이버시 보호 AI의 실질적인 확장 법칙을 입증했다.
구글과 딥마인드가 차분 프라이버시(DP) 기법으로 처음부터 학습한 1B 오픈 모델 '볼트젬마'를 공개했다. 수학적 노이즈를 더해 민감 데이터 암기를 방지한다. 벤치마크 성능은 비슷한 크기의 초기 GPT-2 수준에 머물지만, 프라이버시 보호 AI의 실질적인 확장 법칙을 입증했다.
구글이 신약 개발과 분자 특성 예측을 돕는 오픈 모델군 TxGemma를 공개했다. Gemma 2를 미세조정한 2B, 9B, 27B 크기로 제공되며, 예측 전용 버전과 추론 과정을 설명해 주는 대화형 버전으로 나뉜다. 27B 예측 모델은 66개 치료제 과제 중 64개에서 이전 모델을 뛰어넘거나 대등한 성능을 보였다.
구글이 비전-언어 모델 PaliGemma 2를 발표했다. Gemma 2를 기반으로 구축된 이 모델은 다양한 크기로 제공되며, 기존 PaliGemma 코드의 대대적인 수정 없이 바로 대체할 수 있다. 시각적 입력 이해와 특정 작업을 위한 미세조정(파인튜닝) 편의성이 대폭 강화되었다.
구글이 언어모델의 내부 동작 원리를 분석할 수 있는 도구 모음 '젬마 스코프'를 오픈소스로 공개했다. 젬마 2(2B 및 9B)를 위해 400개 이상의 희소 오토인코더와 3천만 개 이상의 특징을 제공해 모델 내부를 현미경처럼 들여다보고, 환각이나 조작 같은 AI 안전 위험을 연구할 수 있도록 지원한다.
구글이 차세대 오픈 모델 Gemma 2를 정식 출시했다. 9B와 27B 두 가지 크기로 제공되며, 27B 모델은 체급이 두 배 이상인 모델과 대등한 성능을 내면서 단일 엔비디아 H100에서 전체 정밀도 추론을 실행할 수 있다. 상업적 이용이 가능한 라이선스로 배포된다.
구글이 제미나이 1.5 프로의 200만 토큰 컨텍스트 창을 대기자 명단 없이 모든 개발자에게 개방했다. 또한 제미나이 API와 구글 AI 스튜디오에 파이썬 코드 실행 기능이 추가되어 복잡한 데이터 및 수학 추론 성능을 보완했으며, 젬마 2 모델도 AI 스튜디오에 도입됐다.