AMD, 최대 256코어 '에픽 9006' 공개…인텔 대비 AI 성능 174% 향상

요즘 AI 인프라 이야기만 나오면 다들 GPU에만 시선을 쏟습니다. 하지만 프로덕션 환경에서 여러 단계로 동작하는 AI 에이전트를 직접 돌려본 엔지니어들은 서버의 CPU가 먼저 한계에 부딪히는 상황을 마주하곤 합니다.

AMD는 7월 23일, 코드명 베니스(Venice)로 개발해 온 6세대 EPYC 9006 시리즈 서버 프로세서를 공식 발표했습니다. 이번 칩은 Zen 6 아키텍처와 TSMC의 2nm 공정을 기반으로 제작되었으며, 소켓당 최대 256코어 512스레드라는 압도적인 집적도를 갖췄습니다.

플랫폼 대역폭 역시 대대적으로 확장되었습니다. 16채널 DDR5 메모리 구성을 지원하며, 최대 12,800 MT/s 속도의 JEDEC 표준 MRDIMM을 지원합니다. 여기에 차세대 I/O 규격인 PCIe Gen 6까지 적용되었습니다.

에이전트의 궂은일을 도맡는 CPU의 귀환

AMD가 이번 세대에서 전면에 내세운 핵심 키워드는 바로 에이전틱 AI(Agentic AI)입니다.

단순한 1회성 추론과 달리, 실제 AI 에이전트는 컨텍스트 수집, 경로 계획, 벡터 검색, 데이터베이스 쿼리, 임시 샌드박스를 통한 코드 실행 및 결과 검증까지 복잡한 파이프라인을 거칩니다.

추론 모델 자체는 GPU가 담당하더라도, 앞뒤에서 벌어지는 조율과 도구 실행은 전적으로 CPU와 메모리 처리량에 좌우됩니다. AMD는 이러한 CPU 중심의 에이전트 파이프라인 전반에서 인텔 제온 6980P 대비 기하평균 174%의 성능 향상을 기록했다고 밝혔습니다.

왜 중요한가

기업과 개발자 관점에서 이번 칩은 에이전트 서비스의 숨은 병목을 해결해 줄 강력한 카드입니다. 수많은 에이전트가 동시에 데이터베이스를 뒤지고 코드를 실행할 때 단일 소켓에서 256코어와 초고속 MRDIMM 대역폭을 쓸 수 있다는 점은 복잡한 AI 파이프라인을 구축하려는 팀에게 매우 실질적인 가치를 줍니다.

산업 측면에서도 영리한 전략입니다. 대규모 모델 추론에서 엔비디아가 확고한 자리를 잡고 있는 가운데, AMD는 에이전트 시스템 확산으로 CPU의 역할이 오케스트레이션 엔진으로 재정의되는 흐름을 빠르게 포착했습니다. 이는 데이터센터 시장에서 인텔과의 격차를 벌리는 강력한 무기가 될 수 있습니다.

우리가 보기에 에이전틱 AI의 구조적 병목을 정확히 겨냥한 AMD의 방향성은 매우 설득력이 있습니다. 다만 TSMC 2nm 공정과 최신 규격 메모리를 탑재한 만큼 도입 초기 하드웨어 비용이 상당할 것으로 보여, 각 기업이 실제 에이전트 호출 규모에 맞춰 도입 타당성을 면밀히 따져볼 필요가 있습니다.