엔비디아, Groq 3 LPU 공개: 멀티에이전트 겨냥해 초당 1500토큰 구현
엔비디아가 GTC 2026에서 추론 전용 칩인 'Groq 3 LPU'와 전용 서버 랙을 공개했다. 200억 달러 규모 기술 라이선스 계약 이후 처음 선보인 칩으로, 베라 루빈 GPU 랙과 결합해 전력당 처리량을 35배 높이고 멀티에이전트 통신을 위한 초당 1,500토큰 처리를 지원한다.
엔비디아가 GTC 2026에서 추론 전용 칩인 'Groq 3 LPU'와 전용 서버 랙을 공개했다. 200억 달러 규모 기술 라이선스 계약 이후 처음 선보인 칩으로, 베라 루빈 GPU 랙과 결합해 전력당 처리량을 35배 높이고 멀티에이전트 통신을 위한 초당 1,500토큰 처리를 지원한다.
AI 추론 칩 스타트업 그록이 엔비디아와 비독점 기술 라이선스 계약을 체결했다. 그록 창업자 조나단 로스와 써니 마드라 사장은 엔비디아에 합류해 기술 확장을 돕는다. 그록은 사이먼 에드워즈 신임 CEO 체제 아래 독립 회사로 계속 운영되며, GroqCloud 서비스도 중단 없이 유지된다.
Hugging Face는 초고속 AI 칩 개발사 Groq을 허브의 공식 추론 제공업체로 추가했다고 발표했다. 개발자는 모델 페이지나 Python/JS SDK에서 Groq의 LPU를 통해 Llama 4 등 오픈소스를 즉시 구동할 수 있으며, HF 계정 결제나 자체 API 키 입력을 지원한다.
VentureBeat에 따르면 AI 전화 고객센터 기업 Phonely가 Maitai 및 칩 제조사 Groq과 협력해 무지연 LoRA 전환 기술로 음성 AI 지연 시간을 대폭 줄였습니다. 첫 토큰 응답 속도를 176밀리초까지 낮추고 정확도를 99.2%로 끌어올렸으며, 통화자의 70% 이상이 사람과 구분하지 못해 이번 달에만 상담원 350명을 대체한 고객사도 나왔습니다.
Groq과 PlayAI가 파트너십을 맺고 텍스트 음성 변환 모델 'Dialog'를 GroqCloud에 탑재했다. 대화 맥락을 이해해 톤과 감정을 조절하며 영어와 아랍어를 지원한다. Groq LPU 칩셋을 통해 GPU보다 빠른 초당 140자 처리 속도로 실시간 음성 에이전트 구축이 가능하다.
Groq이 대기자 명단 없이 누구나 쓸 수 있는 'Developer Tier'를 전면 개방했다. 더 높은 요청 속도 제한과 글로벌 결제 지원, 배치 처리 기능을 제공한다. 초고속 추론 API를 대규모로 도입하려는 개발자의 진입 장벽을 낮췄다.
AI 칩 스타트업 그록이 사우디 아람코와 제휴를 맺고 사우디아라비아에 대규모 AI 추론 데이터센터를 짓는다고 밝혔다. 아람코가 수억 달러를 투자해 초기 19,000개의 LPU를 배치하고 연내 가동할 계획이다. 향후 최대 200,000개까지 확대해 중동과 인도를 아우르는 AI 허브로 육성한다는 구상이다.
AI 추론 칩 스타트업 그록(Groq)이 블랙록이 주도한 라운드에서 6억 4000만 달러 투자를 유치하며 기업가치 28억 달러를 기록했다. 엔비디아에 맞서 LPU 칩 보급을 대폭 늘릴 계획이며, 메타의 얀 르쿤 수석 AI 과학자를 기술 고문으로 영입했다.
AI 추론 칩 제조사 그록(Groq)이 데이터 분석 스타트업 데피니티브 인텔리전스를 인수했다고 밝혔다. 피인수 기업은 그록의 LPU 칩을 온디맨드로 제공하는 'GroqCloud' 구축을 도와왔으며, 이번 인수를 통해 클라우드 플랫폼 확장과 엔터프라이즈 맞춤형 사업부 Groq Systems 출범에 박차를 가한다.
AI 칩 스타트업 Groq가 선보인 언어처리장치(LPU) 구동 속도가 온라인에서 큰 주목을 받았다. 제3자 테스트 결과 초당 247토큰을 처리해 기존 클라우드 대비 13배 이상 빨랐다. 실시간 음성 대화가 가능할 만큼 지연 시간을 줄였으나, GPU 대비 확장성 입증은 과제로 꼽힌다.