AMD·세레브라스 맞손: 분리형 AI 추론으로 전력 효율 최대 5배 향상

방대한 프롬프트를 한꺼번에 읽어 들이는 작업과 글자를 하나씩 생성하는 작업을 같은 GPU에 맡기는 것은, 대형 트럭에게 100미터 단거리 질주를 시키는 것과 비슷합니다.

열린 Advancing AI 2026 행사에서 AMD와 세레브라스 시스템(Cerebras Systems)이 손을 잡았습니다. AMD의 랙 스케일 시스템인 헬리오스(Helios)와 세레브라스의 웨이퍼 스케일 엔진(WSE)을 결합한 비동기 분리형(disaggregated) AI 추론 솔루션을 발표했습니다.

프롬프트와 생성을 따로 처리하는 방식

LLM 추론 워크로드는 성격이 완전히 다른 두 단계로 나뉩니다.

앞부분인 프롬프트 처리는 긴 문맥을 한꺼번에 소화해야 하므로 대규모 처리량(처리 속도)이 중요합니다. 반면 뒷부분인 토큰 생성은 단어를 하나씩 순차적으로 뱉어내야 해서 메모리 대역폭과 극단적인 저지연이 핵심입니다.

이번 솔루션은 역할을 정확히 분담합니다. AMD 인스팅트 GPU 기반의 헬리오스 시스템이 대규모 프롬프트와 긴 컨텍스트 윈도우를 처리하고, 세레브라스 웨이퍼 스케일 엔진이 초저지연 토큰 생성을 이어받습니다.

양사는 이 통합 워크플로를 통해 와트당 초당 토큰 수(T/s/W) 효율을 최대 5배까지 끌어올릴 수 있다고 밝혔습니다.

세레브라스는 자체 데이터센터에 AMD 헬리오스를 배치할 계획이며, 2026년 하반기 세레브라스 클라우드(Cerebras Cloud)를 통해 가장 먼저 상용화될 예정입니다.

왜 중요한가

자율형 에이전트, 실시간 코딩 도구, 음성 비서를 개발하는 팀에게 생성 지연 시간은 서비스 완성도를 결정짓는 치명적인 요소입니다. 여러 단계의 추론과 도구 호출을 거쳐야 하는 에이전트 환경에서는 토큰 생성 속도가 느리면 실시간 대화 자체가 불가능해집니다. 하반기 클라우드로 공개되면 하드웨어 구매 없이도 즉시 도입을 검토해 볼 만합니다.

업계 전체로 보면 엔비디아의 독점적 단일 아키텍처 구도에 균열을 내기 위한 영리한 연합 전선입니다. 엔비디아가 동일한 GPU 클러스터로 전체 워크플로를 소화하도록 유도하는 반면, AMD와 세레브라스는 추론 단계를 쪼개 각자 가장 잘하는 하드웨어를 배치하는 이종 분리형 방식을 택했습니다.

우리는 이 협력이 양측의 가려운 곳을 제대로 긁어준 영리한 선택이라고 봅니다. AMD는 초저지연 추론이라는 확실한 차별화 포인트를 확보했고, 세레브라스는 대규모 데이터센터 단위의 안정적인 입력 처리 엔진을 얻었습니다. 관건은 서로 다른 하드웨어 사이에서 발생하는 데이터 전송 병목을 얼마나 매끄럽게 제어하느냐입니다. 2026년 하반기 실제 클라우드 환경에서 검증될 실측 데이터가 시장의 판도를 가를 것입니다.