허깅페이스, 그록(Groq) 추론 제공업체로 추가…초고속 LPU 지원
Hugging Face는 초고속 AI 칩 개발사 Groq을 허브의 공식 추론 제공업체로 추가했다고 발표했다. 개발자는 모델 페이지나 Python/JS SDK에서 Groq의 LPU를 통해 Llama 4 등 오픈소스를 즉시 구동할 수 있으며, HF 계정 결제나 자체 API 키 입력을 지원한다.
LPU
그록, 사우디 아람코와 손잡고 대규모 AI 추론 데이터센터 구축
AI 칩 스타트업 그록이 사우디 아람코와 제휴를 맺고 사우디아라비아에 대규모 AI 추론 데이터센터를 짓는다고 밝혔다. 아람코가 수억 달러를 투자해 초기 19,000개의 LPU를 배치하고 연내 가동할 계획이다. 향후 최대 200,000개까지 확대해 중동과 인도를 아우르는 AI 허브로 육성한다는 구상이다.
AI 칩 스타트업 그록, 6억 4000만 달러 투자 유치…얀 르쿤 고문 합류
AI 추론 칩 스타트업 그록(Groq)이 블랙록이 주도한 라운드에서 6억 4000만 달러 투자를 유치하며 기업가치 28억 달러를 기록했다. 엔비디아에 맞서 LPU 칩 보급을 대폭 늘릴 계획이며, 메타의 얀 르쿤 수석 AI 과학자를 기술 고문으로 영입했다.
초당 247토큰 폭주…AI 칩 스타트업 Groq의 'LPU' 화제
AI 칩 스타트업 Groq가 선보인 언어처리장치(LPU) 구동 속도가 온라인에서 큰 주목을 받았다. 제3자 테스트 결과 초당 247토큰을 처리해 기존 클라우드 대비 13배 이상 빨랐다. 실시간 음성 대화가 가능할 만큼 지연 시간을 줄였으나, GPU 대비 확장성 입증은 과제로 꼽힌다.