MS, 엔비디아 의존 줄일 자체 AI 칩 개발 중…GPT-4로 내부 테스트 돌입

지금 생성형 AI 시장에서 경쟁한다는 건 사실상 엔비디아에 막대한 통행료를 내는 것과 다름없습니다.

빅테크 기업들이 AI 칩 확보에 사활을 걸면서 최신 엔비디아 H100 GPU는 이베이에서 4만 달러가 넘는 가격에 거래되고 있습니다. ChatGPT를 상용화하는 데만 구형 A100 GPU가 3만 개 이상 필요하다는 추산이 나올 정도입니다.

이런 천문학적인 비용 압박 속에서 마이크로소프트가 독자 행보를 준비해 온 정황이 드러났습니다. 디 인포메이션(The Information) 보도에 따르면, 마이크로소프트는 엔비디아 의존도를 줄이고 거대언어모델(LLM)을 학습시키기 위해 2019년부터 '아테나(Athena)'라는 코드명으로 자체 AI 칩을 비밀리에 개발해 왔습니다.

극비 프로젝트 '아테나', OpenAI도 테스트 참여

아테나는 최근 챗봇 열풍을 보고 급조한 프로젝트가 아닙니다. 이미 수년 동안 공을 들여왔으며, 최근 개발 속도를 한층 끌어올린 상태입니다.

보도에 따르면 현재 마이크로소프트와 OpenAI의 일부 직원들이 이미 칩을 전달받아 최신 모델인 GPT-4를 직접 구동하며 성능을 검증하고 있습니다.

마이크로소프트는 이르면 내년부터 사내 인프라와 OpenAI 서비스 전반에 이 칩을 더 광범위하게 배치할 계획입니다. 단발성 시도에 그치지 않고 차세대 버전까지 포함된 다년 로드맵도 이미 갖춰둔 것으로 전해졌습니다.

아테나가 향후 애저(Azure) 클라우드 고객에게까지 제공될지는 아직 불투명합니다. 내부 소식통들은 이 칩이 엔비디아 하드웨어를 100% 대체하기보다는, 빙(Bing)과 오피스(Office), 깃허브(GitHub) 등 자사 핵심 서비스에 AI 기능을 쏟아붓는 과정에서 발생하는 비용을 대폭 낮추는 데 초점이 맞춰져 있다고 설명합니다.

마이크로소프트의 칩 개발 도전은 이번이 처음은 아닙니다. 2020년 말 블룸버그는 마이크로소프트가 서버와 서피스 기기용 ARM 프로세서를 자체 설계하고 있다고 보도한 바 있으며, 퀄컴이나 AMD와 협력해 서피스 전용 커스텀 칩을 선보이기도 했습니다.

왜 중요한가

자체 칩 개발이 사실이라면 마이크로소프트는 구글(TPU), 아마존(트레이니엄), 메타와 함께 자체 AI 하드웨어를 굴리는 테크 거인 대열에 정식으로 합류하게 됩니다.

우리는 이 결정을 성능 과시가 아닌 '수익성 방어를 위한 필수 생존 전략'으로 봅니다. 코파일럿 같은 AI 기능이 대중화될수록 백엔드에서 소모되는 추론 비용은 눈덩이처럼 불어납니다. 엔비디아의 높은 하드웨어 마진을 계속 감당하는 대신, 자체 칩으로 대규모 추론 워크로드를 분산할 수만 있다면 절감할 수 있는 인프라 비용은 수십억 달러에 달합니다.

엔비디아 입장에서도 자사의 최대 고객이자 든든한 동맹인 마이크로소프트가 대체재를 준비하고 있다는 사실은 상당한 압박이 될 수밖에 없습니다.

관건은 역시 하드웨어를 받쳐줄 소프트웨어 생태계입니다. 쿠다(CUDA) 아성에 맞설 컴파일러와 최적화 도구를 밑바닥부터 다지는 일은 칩 제작만큼이나 어렵습니다. 다만 OpenAI 엔지니어들을 초기부터 끌어들여 실제 프론티어 모델로 스트레스 테스트를 진행하고 있다는 점에서, 책상 위 설계가 아닌 실전용 칩을 만들겠다는 마이크로소프트의 현실적인 노림수가 엿보입니다.