IBM, Granite 4 공개: 맘바-트랜스포머 결합해 메모리 6분의 1로 절감
IBM이 목요일 트랜스포머와 맘바-2 아키텍처를 결합한 언어 모델 시리즈 'Granite 4'를 오픈소스로 공개했다. 30억~320억 파라미터 크기의 4개 모델로 구성되며, 7B 모델은 이전 세대 대비 메모리 사용량을 6분의 1로 줄여 추론 비용을 대폭 낮췄다.
IBM이 목요일 트랜스포머와 맘바-2 아키텍처를 결합한 언어 모델 시리즈 'Granite 4'를 오픈소스로 공개했다. 30억~320억 파라미터 크기의 4개 모델로 구성되며, 7B 모델은 이전 세대 대비 메모리 사용량을 6분의 1로 줄여 추론 비용을 대폭 낮췄다.