PrismML, 스마트폰에서 구동되는 1비트 멀티모달 모델 'Bonsai 27B' 공개
PrismML은 Qwen3.6 27B 기반의 멀티모달 AI 'Bonsai 27B'를 오픈소스(Apache 2.0)로 공개했다. 1비트 바이너리 버전은 메모리 점유율을 3.9GB로 줄여 기존 FP16 대비 약 14배 작고, 아이폰 17 프로에서 초당 11토큰 속도를 낸다. 클라우드 없이도 기기 내에서 추론과 코딩 작업을 직접 처리할 수 있다.
PrismML은 Qwen3.6 27B 기반의 멀티모달 AI 'Bonsai 27B'를 오픈소스(Apache 2.0)로 공개했다. 1비트 바이너리 버전은 메모리 점유율을 3.9GB로 줄여 기존 FP16 대비 약 14배 작고, 아이폰 17 프로에서 초당 11토큰 속도를 낸다. 클라우드 없이도 기기 내에서 추론과 코딩 작업을 직접 처리할 수 있다.