구글, 언어모델 내부 분석 도구 '젬마 스코프' 오픈소스 공개
구글이 언어모델의 내부 동작 원리를 분석할 수 있는 도구 모음 '젬마 스코프'를 오픈소스로 공개했다. 젬마 2(2B 및 9B)를 위해 400개 이상의 희소 오토인코더와 3천만 개 이상의 특징을 제공해 모델 내부를 현미경처럼 들여다보고, 환각이나 조작 같은 AI 안전 위험을 연구할 수 있도록 지원한다.
구글이 언어모델의 내부 동작 원리를 분석할 수 있는 도구 모음 '젬마 스코프'를 오픈소스로 공개했다. 젬마 2(2B 및 9B)를 위해 400개 이상의 희소 오토인코더와 3천만 개 이상의 특징을 제공해 모델 내부를 현미경처럼 들여다보고, 환각이나 조작 같은 AI 안전 위험을 연구할 수 있도록 지원한다.