Perplexity, 초당 1200토큰 내뿜는 새 검색 모델 Sonar 출시
Perplexity가 자체 검색 모델 Sonar를 공개했다. Llama 3.3 70B 기반에 Cerebras 추론 칩을 더해 초당 1200토큰이라는 즉각적인 생성 속도를 낸다. 테스트 결과 사용자 만족도에서 상위 모델을 앞섰으며, Pro 사용자에게 우선 제공된다.
Llama 3.3 70B
메타, '라마 3.3 70B' 공개… 405B급 성능을 저비용으로 구현
메타가 텍스트 모델 '라마 3.3 70B'를 출시했다. 최신 사후 학습 기법을 통해 거대 405B 모델급 성능을 훨씬 저렴한 구동 비용으로 실현했으며, MMLU 등 벤치마크에서 GPT-4o를 앞섰다. 허깅페이스 등에서 바로 내려받을 수 있다.