prism-ml, Bonsai-2 공개: 3진 가중치로 27B 모델을 6GB로 압축
prism-ml이 극도로 압축된 모델 컬렉션 Bonsai-2를 공개했다. 가중치를 -1, 0, +1만 사용하는 3진 양자화 기법으로 27B 크기 모델을 9분의 1 수준인 5.9GB로 줄였으며, 원본에 가까운 성능을 유지해 일반 소비자용 GPU와 Mac에서도 원활히 구동된다.
prism-ml
PrismML, 스마트폰에서 구동되는 1비트 멀티모달 모델 'Bonsai 27B' 공개
PrismML은 Qwen3.6 27B 기반의 멀티모달 AI 'Bonsai 27B'를 오픈소스(Apache 2.0)로 공개했다. 1비트 바이너리 버전은 메모리 점유율을 3.9GB로 줄여 기존 FP16 대비 약 14배 작고, 아이폰 17 프로에서 초당 11토큰 속도를 낸다. 클라우드 없이도 기기 내에서 추론과 코딩 작업을 직접 처리할 수 있다.