메타와 퀄컴 맞손, 2024년부터 스마트폰·PC서 '라마 2' 직접 구동
퀄컴과 메타가 파트너십을 발표하고, 2024년부터 퀄컴 칩셋이 탑재된 스마트폰과 PC에서 오픈소스 대형언어모델 '라마 2'를 온디바이스로 직접 구동할 계획이라고 밝혔습니다. 대규모 클라우드 데이터센터 의존도를 낮춰 운영 비용을 대폭 줄이고, 기기 내에서 더 빠른 AI 가상 비서를 구현하는 것이 목표입니다.
Llama 2
최신 소식 보기
MS·메타 파트너십 확대: Llama 2 모델 Azure 및 Windows에 도입
마이크로소프트는 메타의 오픈소스 대형 언어 모델 'Llama 2'의 상용화 우선 파트너로서 Azure와 Windows 지원을 발표했다. Azure 고객은 7B, 13B, 70B 모델을 손쉽게 미세조정 및 배포할 수 있으며, ONNX Runtime 최적화를 통해 Windows PC 로컬 환경에서도 구동할 수 있다.