오픈소스 LLM Falcon, 허깅페이스 생태계 합류
허깅페이스는 아부다비 TII가 개발한 오픈소스 LLM 'Falcon' 시리즈 지원을 발표했다. 아파치 2.0 라이선스로 상업적 이용이 가능하며, Falcon-40B는 LLaMA-65B를 제치고 오픈 LLM 리더보드 1위에 올랐다. 멀티쿼리 어텐션을 적용해 추론 메모리 효율을 크게 높였으며 일반 PC에서도 구동할 수 있다.
허깅페이스는 아부다비 TII가 개발한 오픈소스 LLM 'Falcon' 시리즈 지원을 발표했다. 아파치 2.0 라이선스로 상업적 이용이 가능하며, Falcon-40B는 LLaMA-65B를 제치고 오픈 LLM 리더보드 1위에 올랐다. 멀티쿼리 어텐션을 적용해 추론 메모리 효율을 크게 높였으며 일반 PC에서도 구동할 수 있다.