엔비디아, AI 에이전트 전용 CPU '베라' 공개…x86 대비 1.8배 빨라

그동안 AI 경쟁의 초점은 온통 GPU 연산 능력에만 쏠려 있었습니다. 하지만 AI 모델이 질문에 답만 하는 수준을 넘어 직접 파이썬 코드를 작성하고, 샌드박스에서 실행하며, 도구를 호출하는 에이전트 환경으로 바뀌면서 CPU 병목 현상으로 고가의 GPU가 대기 상태에 머무는 문제가 수면 위로 떠올랐습니다.

NVIDIA는 대만에서 열린 GTC Taipei를 통해 AI 에이전트를 위해 설계된 최초의 프로세서인 NVIDIA Vera를 정식 발표하고, 이미 본격적인 양산에 돌입했다고 밝혔습니다.

샌드박스 실행을 위해 탄생한 88개 커스텀 코어

AI 데이터센터의 수익 구조는 코어당 비용에서 토큰당 비용으로 빠르게 전환되고 있습니다. 에이전트의 연산 병목을 해결하기 위해 Vera는 NVIDIA가 자체 설계한 Olympus 코어 88개를 탑재하고 공간 멀티스레딩 기술과 최대 1.2TB/s 대역폭을 지원하는 LPDDR5X 메모리를 채택했습니다.

이러한 설계를 바탕으로 x86 CPU 대비 작업 완료 속도를 1.8배 끌어올렸습니다. 오픈소스 벤치마크 전문 기관인 포로닉스(Phoronix)의 테스트 결과에 따르면 코드 컴파일, 파이썬 및 자바 런타임, 데이터베이스 처리 등 에이전트 실행에 직결되는 작업 전반에서 Vera가 가장 빠른 종합 성능을 기록했습니다.

누적 출하량 250만 개에 육박한 Grace CPU의 성공에 이어, Vera는 단독 서버용 CPU는 물론 차세대 Vera Rubin 시스템의 호스트 CPU로 탑재됩니다. 2세대 NVLink-C2C를 통해 CPU와 GPU 간 1.8TB/s의 일관성 대역폭을 제공하며, 스토리지 플랫폼인 Vera BlueField-4 STX에도 들어갑니다.

도입 기업의 면면도 화려합니다. Anthropic, OpenAI, SpaceXAI를 비롯해 바이트댄스, 코어위브, 오라클 클라우드 인프라스트럭처(OCI)가 도입을 준비 중입니다. 심지어 하루 1조 1천억 건 이상의 메시지를 처리하는 뉴욕증권거래소(NYSE) 역시 HPE 및 레드판다와 협력해 인프라 확장에 Vera를 투입하기로 했습니다. Dell, HPE, 레노버, 슈퍼마이크로는 올가을부터 Vera 시스템을 공급할 예정입니다.

왜 중요한가

NVIDIA의 이번 행보는 AI 아키텍처의 무게중심 이동을 정확히 짚어낸 똑똑한 전략으로 판단됩니다. 에이전트 환경에서는 최종 답변을 내놓기 전 수십 번의 코드 실행과 환경 검증을 거치게 되는데, CPU가 느리면 인프라 전체의 효율이 바닥을 치게 됩니다. Vera가 메모리 대역폭을 1.2TB/s까지 끌어올린 것은 GPU가 멈추지 않고 계속 토큰을 뽑아내도록 만들기 위한 최적화의 결과입니다.

산업 측면에서는 인텔과 AMD가 장악해 온 x86 데이터센터 생태계에 대한 매우 직접적인 위협입니다. Dell이나 HPE 같은 주류 서버 제조사가 Vera를 단독 표준 CPU 서버 옵션으로 판매하기 시작했다는 점은, x86 외에 첫 번째 상용 대안 표준이 서버 시장에 안착했음을 의미합니다. AI 데이터센터의 기준이 토큰 생성 효율로 재편될수록 x86의 입지는 더 좁아질 수밖에 없습니다.

다만 일반 개발자나 일반 기업이 지금 당장 하드웨어를 구매해 테스트할 이유는 없습니다. 이 시스템은 대규모 수랭식 랙과 하이퍼스케일러를 겨냥한 장비이기 때문입니다. 올가을 OCI 등 클라우드 파트너들이 Vera 인스턴스를 출시했을 때, 에이전트 워크플로나 샌드박스 구동 비용이 실제로 얼마나 절감되는지 확인하고 도입하는 것이 가장 현명한 접근법입니다.