마이크로소프트, 첫 자체 AI 칩 '마이아 100'과 '코발트 100' CPU 공개

생성형 AI 붐이 지속되는 동안 모든 빅테크 기업의 고민은 단 하나, 엔비디아 그래픽처리장치에 대한 극심한 의존도와 감당하기 힘든 전력 비용이었습니다.

연례 개발자 콘퍼런스 이그나이트에서 마이크로소프트가 드디어 자체 설계한 클라우드 전용 칩 2종을 공식 공개했습니다. 생성형 AI 워크로드에 특화된 가속기 애저 마이아 100과 범용 컴퓨팅용 중앙처리장치 애저 코발트 100입니다.

5나노 공정에 담긴 1050억 개 트랜지스터

마이아 100은 마이크로소프트의 첫 번째 자체 AI 가속기 시리즈로, 5나노미터 공정 기술을 적용해 1050억 개의 트랜지스터를 집적했습니다. 회사는 이 칩이 해당 공정에서 제작된 칩 중 가장 큰 축에 속한다고 설명했습니다.

이 칩은 깃허브 코파일럿 같은 자체 제품뿐 아니라, 110억 달러를 투자한 오픈AI의 대규모 언어 모델을 구동하는 데 직접 투입됩니다. 함께 공개된 코발트 100은 암 아키텍처를 기반으로 한 64비트 프로세서로, 단일 다이에 128개의 컴퓨팅 코어를 탑재했습니다.

코발트 100은 기존 애저가 사용하던 다른 암 기반 칩 대비 전력 소비를 40%나 줄였습니다. 이미 마이크로소프트 팀즈와 애저 SQL 같은 핵심 서비스에 투입돼 구동 중입니다. 두 칩 모두 초당 200기가비트 네트워크와 연결되어 초당 12.5기가바이트의 데이터 처리 속도를 지원합니다.

클라우드 3사 중 마지막 주자, 엔비디아와의 동행은 지속

자체 칩 개발에서 마이크로소프트는 빅3 클라우드 업체 중 가장 늦게 합류한 셈입니다. 구글은 이미 2016년 텐서처리장치를 선보였고, 아마존웹서비스도 그래비톤과 트레이니움, 인퍼런시아를 지속적으로 내놓았습니다.

하지만 마이크로소프트가 엔비디아와 결별하는 것은 아닙니다. 내년에 엔비디아의 최신 호퍼 기반 H200과 AMD의 MI300을 애저 인프라에 도입할 계획임을 분명히 밝혔습니다.

자체 칩만으로 폭발하는 AI 수요를 감당하기 어렵기 때문입니다. 지난 9월 분기 기준 깃허브 코파일럿 유료 고객은 전 분기 대비 40% 증가했으며, 전 세계 3만 7000여 개 기업에서 100만 명 이상의 유료 사용자를 확보한 상태입니다.

왜 중요한가

우리는 마이크로소프트의 자체 칩 공개가 엔비디아를 즉각 대체하려는 목적이라기보다는, 협상력을 확보하고 마진을 방어하기 위한 필수적인 헤지 전략이라고 봅니다.

일반 기업이나 개발자가 당장 마이아 칩을 직접 골라 쓸 일은 드물겠지만, 코발트 100을 통한 40%의 전력 절감과 마이아의 추론 투입은 향후 코파일럿 등 AI 서비스의 가격 안정성과 서비스 가용성에 직접적인 이점을 줄 것입니다.

산업 전체로 보면 클라우드 업계가 고비용 엔비디아 독점 구조에서 점차 벗어나는 중요한 계기가 됩니다. 마이크로소프트는 값비싼 상용 GPU는 최첨단 모델 학습에 집중 배치하고, 대규모 일상 워크로드는 전력 효율이 높은 자체 칩으로 분산하는 투트랙 전략을 구사할 것으로 보입니다. 다만 자체 칩에 최적화된 소프트웨어 생태계를 얼마나 매끄럽게 안착시키느냐가 앞으로의 과제가 될 전망입니다.