음성 복제 모델 Audio8-TTS-Realistic 오픈소스 공개: 6억 파라미터로 23개 언어 지원
Edge0가 6억 파라미터 규모의 오픈소스 TTS 모델 Audio8-TTS-Realistic을 공개했다. 용량이 2.6GB에 불과해 보급형 GPU에서도 구동 가능하며, 단 몇 초의 샘플 음성으로 23개 언어의 제로샷 음성 복제를 구현한다. Apache 2.0 라이선스로 배포돼 상업적 이용도 가능하다.
Edge0
Edge0, 'Audio8-ASR-Infinite' 오픈소스 공개: 메모리 고정으로 24시간 실시간 전사 지원
Edge0이 중·영 이중 언어를 지원하는 스트리밍 음성인식 모델 Audio8-ASR-Infinite를 공개했다. 전사 지연 시간을 240~560ms 수준으로 낮추고 롤링 KV 캐시 기술을 통해 24시간 연속 구동 시에도 메모리와 연산 지연을 일정하게 유지한다.
Edge0: SSD를 메모리처럼 활용해 35B 모델을 2.5GB RAM에서 구동
오픈소스 스트리밍 MoE 추론 프레임워크 Edge0가 공개되었다. SSD에서 필요한 전문가 가중치를 실시간으로 읽어와 35B 모델을 약 2.5GB의 활성 메모리만으로 Mac과 iPhone 등에서 실행할 수 있다. 다음 스텝의 라우팅을 사전 예측해 지연 시간을 줄임으로써 저사양 기기에서도 대형 모델 구동이 가능해졌다.