메타, AWS와 수천만 개 그래비톤 코어 도입 계약...에이전트 AI 지원

AI 반도체 경쟁이라고 하면 대개 엔비디아 GPU를 먼저 떠올리지만, 복잡한 작업을 스스로 계획하고 실행하는 에이전트 AI 시대로 넘어가면서 계산 병목의 지형이 바뀌고 있습니다.

메타는 4월 24일 아마존웹서비스(AWS)와 계약을 맺고 수천만 개의 AWS 그래비톤(Graviton) 프로세서 코어를 자사 인프라에 도입하기로 했다고 발표했습니다. 메타는 단숨에 전 세계 최대 규모의 그래비톤 고객사 중 하나로 올라섰습니다.

에이전트 AI는 왜 대규모 CPU를 필요로 하는가

이번 계약의 핵심인 AWS 그래비톤은 GPU가 아니라 Arm 아키텍처 기반의 범용 CPU입니다.

거대 언어 모델을 학습시키는 단계에서는 여전히 GPU가 핵심이지만, 모델을 활용해 다단계 추론, 검색 연동, 코드 작성, 작업 조율 등을 자율적으로 수행하는 에이전트 시스템에서는 상황이 다릅니다. 복잡한 시스템 간 오케스트레이션과 실시간 데이터 처리는 대부분 일반 CPU의 몫이기 때문입니다.

메타는 최신 그래비톤5 코어부터 우선 배치합니다. AWS에 따르면 그래비톤5는 데이터 처리 속도와 대역폭이 대폭 향상되어 에이전트 시스템이 대규모로 지속적인 추론을 수행할 때 요구되는 CPU 부하를 원활하게 처리할 수 있습니다.

메타 인프라 총괄 산토시 자나르단은 수십억 명의 사용자에게 메타 AI 기반 에이전트 경험을 제공하려면 성능과 비용 효율을 모두 잡는 분산 컴퓨팅 전략이 필수적이라고 밝혔습니다.

클라우드 격전 속 맞춤형 칩 경쟁

발표 타이밍도 눈길을 끕니다. AWS는 구글 클라우드 넥스트 행사가 끝난 직후인 금요일에 이 소식을 공개하며 경쟁사를 견제했습니다. 메타는 지난해 8월 구글 클라우드와 6년간 100억 달러 규모의 계약을 체결한 바 있지만, 이번에는 거액의 예산을 다시 AWS로 돌린 셈입니다.

아마존 입장에서도 이번 계약은 자체 칩 전략의 큰 성과입니다. 이번 달 초 앤트로픽이 AWS의 자체 AI 칩인 트레니엄(Trainium)을 중심으로 10년간 1000억 달러를 쓰기로 합의한 데 이어, 메타까지 수천만 개의 그래비톤 CPU를 채택하면서 자체 칩 포트폴리오의 실전 경쟁력을 입증했습니다.

앤디 재시 아마존 CEO는 최근 주주 서한에서 엔비디아와 인텔을 직접 겨냥하며 엔터프라이즈 AI에서는 가격 대비 성능이 핵심 승부처가 될 것이라고 강조했습니다. 엔비디아 역시 에이전트 워크로드를 겨냥한 Arm 기반 베라(Vera) CPU를 내놓았지만, 칩을 직접 판매하는 엔비디아와 달리 AWS는 자사 클라우드 서비스를 통해서만 칩 접근성을 제공합니다.

왜 중요한가

우리는 이번 발표가 AI 인프라의 무게중심이 고가의 GPU 단일 축에서 워크로드별 특화 아키텍처로 분화하고 있음을 명확히 보여준다고 봅니다.

실제 에이전트 기반 서비스를 구축하려는 팀에게 주는 시사점은 분명합니다. 에이전트가 발전할수록 토큰을 생성하는 시간보다 도구를 부르고 상태를 추적하며 다음 단계를 결정하는 시스템 오케스트레이션 비용이 급증하게 됩니다. 이 구간의 병목과 인프라 비용을 줄이지 못하면 대규모 서비스는 지속 가능하지 않습니다.

메타의 이번 결정은 꽤 영리해 보입니다. 단일 하드웨어나 특정 클라우드 벤더에 종속되지 않고, 자사 데이터센터 구축과 여러 클라우드 업체의 특화 칩을 적재적소에 쪼개어 배치함으로써 수십억 사용자를 위한 단위당 운영 단가를 크게 낮출 수 있기 때문입니다.

다만 클라우드 3사가 저마다 자체 Arm 칩을 앞세우며 생태계 가두기를 시도하고 있는 만큼, 개발자들에게는 하드웨어 파편화에 따른 소프트웨어 최적화 부담이 새로운 숙제로 남을 것으로 보입니다.