단 16.9MB로 구동되는 음성인식: Cactus, 초경량 온디바이스 모델 Whistle 공개
Cactus Compute가 단일 파일 크기 16.9MB의 온디바이스 음성인식 모델 Whistle을 공개했다. 외장 의존성 없이 순수 CPU만으로 구동되며 7개 언어 전사와 단어 단위 타임스탬프를 지원하고, 여러 벤치마크에서 145MB 크기의 Whisper base를 넘어섰다.
Cactus Compute
캑터스, 45M 초소형 모델 Needle 2 공개: 28MB 램으로 구동
캑터스가 4500만 파라미터의 초경량 온디바이스 모델 Needle 2를 공개했습니다. 바이너리 크기는 14MB에 불과하며 GPU 없이 약 28MB의 램만으로 구동됩니다. 라즈베리 파이 5나 보급형 스마트폰 등 소형 기기에서 오프라인 도구 호출을 빠르게 처리합니다.