AMD, 허깅페이스와 파트너십…CPU·GPU AI 모델 가속 본격화

지난 수년간 딥러닝 업계의 가장 큰 고민은 엔비디아 GPU의 비싼 가격과 심각한 공급 부족이었습니다. AI 개발자들에게 하드웨어 선택지는 사실상 하나뿐이었습니다.

샌프란시스코에서 열린 AMD의 '데이터 센터 및 AI 기술 프리미어' 행사에서, 허깅페이스 CEO 클레망 들랑그는 AMD가 허깅페이스의 하드웨어 파트너 프로그램에 공식 합류했다고 발표했습니다.

양사는 AMD의 CPU와 GPU 전반에서 트랜스포머 모델의 성능을 극대화해, AI 생태계에 가성비 높은 새로운 표준을 제시하겠다는 목표를 내걸었습니다.

엔터프라이즈 GPU부터 일반 PC용 CPU까지 전방위 지원

이번 협력은 데이터센터용 고성능 칩에만 국한되지 않고 일반 소비자용 하드웨어까지 폭넓게 아우릅니다.

GPU 부문에서는 기업용 가속기인 인스팅트 MI2xx 및 MI3xx 시리즈에 대한 최적화를 먼저 진행하고, 이후 소비자용 라데온 Navi3x 라인업으로 확장할 계획입니다. AMD가 공개한 초기 벤치마크에 따르면, MI250은 직접적인 경쟁 칩 대비 BERT-Large 학습에서 1.2배, GPT2-Large 학습에서 1.4배 빠른 속도를 기록했습니다.

CPU 부문에서도 서버용 에픽과 일반 PC용 라이젠 프로세서 모두에서 추론 성능 최적화 작업을 진행합니다. 양자화와 같은 모델 압축 기술을 적용하면 CPU만으로도 충분히 실용적인 트랜스포머 추론 환경을 구축할 수 있습니다.

전력 소모가 적으면서도 뛰어난 성능을 내는 알베오 V70 AI 가속기 역시 이번 최적화 대상에 포함됐습니다.

ROCm 표준 내장으로 주요 대형 모델 즉시 지원

하드웨어가 제아무리 뛰어나도 소프트웨어 설정이 까다로우면 개발자들은 외면하기 마련입니다.

이번 협력의 핵심은 AMD의 ROCm SDK를 허깅페이스의 대표적인 오픈소스 도구인 transformers 라이브러리에 직접 매끄럽게 통합하는 데 있습니다.

지원 목록에는 BERT, CLIP, Wav2Vec2와 같은 자연어·비전·음성 모델은 물론 LLaMA, StarCoder, BLOOM, OPT, T5 등 핵심 생성형 대규모 언어 모델이 대거 포함됩니다. 파이토치, 텐서플로, ONNX 런타임 전반에서 안정성 검증도 거칩니다.

향후 허깅페이스는 AMD 플랫폼 전용 Optimum 라이브러리를 선보여, 개발자가 기존 코드를 거의 고치지 않고도 AMD 칩에서 모델을 곧바로 구동할 수 있도록 할 방침입니다.

왜 중요한가

현재 생성형 AI 붐 속에서 인프라 비용 부담은 모든 기업의 생존 과제가 됐습니다. 엔비디아 하드웨어에 대한 일방적인 의존은 높은 칩 가격과 품귀 현상을 불렀고, 시장에는 믿을 만한 대안이 절실했습니다.

AMD가 허깅페이스라는 최대 오픈소스 커뮤니티의 관문을 잡은 것은 매우 현명한 접근입니다. 개발자들에게 생소한 자체 툴을 강요하는 대신, 이미 전 세계 엔지니어들이 일상적으로 쓰는 transformers 안으로 들어갔기 때문입니다.

물론 관건은 소프트웨어의 완성도입니다. AMD의 ROCm은 엔비디아의 CUDA에 비해 설치와 트러블슈팅이 번거롭다는 평가를 오랫동안 받아왔습니다. 이번 협력이 단순한 구호에 그치지 않으려면 실제 현장에서 에러 없는 안정성을 입증해야 합니다.

우리는 이번 협력이 엔비디아의 독점 구도에 실질적인 균열을 낼 수 있는 신호탄이라고 봅니다. AMD가 뛰어난 가성비를 바탕으로 유의미한 점유율을 확보한다면, 인공지능 인프라 시장 전반의 가격 거품을 걷어내는 계기가 될 것입니다.