오픈AI, 자체 AI 칩 개발 검토…엔비디아 의존 줄이고 비용 절감 노린다

지금 샘 올트먼에게 가장 절실한 것은 막대한 투자금이 아니라 인공지능 모델을 돌릴 칩입니다.

로이터 통신에 따르면 오픈AI는 자체 AI 반도체를 개발하는 방안을 진지하게 검토하고 있습니다. 사내 칩 전략에 대한 논의는 적어도 작년부터 이어져 왔으며, 올트먼 CEO는 AI 칩 확보를 회사의 최우선 과제로 삼았습니다. 오픈AI는 목표를 달성하기 위해 기존 칩 제조사를 인수하거나 자체적으로 설계 역량을 구축하는 등 다양한 전략을 검토 중인 것으로 알려졌습니다.

엔비디아 품귀 현상과 천문학적인 비용

오픈AI가 자체 칩 개발을 저울질하는 이유는 명확합니다. 칩이 턱없이 부족하고 감당하기 힘들 정도로 비싸기 때문입니다.

현재 오픈AI는 챗GPT, GPT-4, 달리 3 같은 주요 모델을 개발하고 서비스하기 위해 전적으로 엔비디아 GPU에 의존하고 있습니다. 하지만 생성형 AI 열풍으로 하드웨어 품귀가 심각해지면서 엔비디아의 최고 성능 AI 칩은 2024년 물량까지 매진된 것으로 알려졌습니다.

오픈AI의 최대 후원자인 마이크로소프트조차 지난여름 실적 발표에서 AI 서버 하드웨어 부족이 서비스 장애로 이어질 수 있다고 경고했을 정도입니다.

여기에 천문학적인 운영 비용도 발목을 잡고 있습니다.

번스타인의 애널리스트 스테이시 래스곤의 분석에 따르면, 챗GPT 질의량이 구글 검색의 10분의 1 수준에만 도달해도 초기에 약 481억 달러어치의 GPU가 필요하며, 시스템을 계속 운영하는 데만 연간 약 160억 달러 규모의 칩이 들어갑니다.

빅테크의 선례와 험난한 하드웨어의 벽

자체 칩 개발에 나서는 빅테크는 오픈AI가 처음이 아닙니다.

구글은 PaLM-2 같은 대규모 모델 훈련에 자체 TPU를 적극 활용하고 있고, 아마존 AWS는 트레니움과 인퍼런시아를 고객에게 제공하고 있습니다. 마이크로소프트 역시 AMD와 협력해 아테나라는 내부 AI 칩을 개발 중이며, 오픈AI도 이를 테스트하고 있는 것으로 전해졌습니다.

오픈AI는 110억 달러 이상의 투자금을 유치했고 연간 매출 10억 달러를 눈앞에 두고 있으며, 900억 달러 기업가치로 구주 매각을 검토할 만큼 자금력은 탄탄합니다.

하지만 반도체 개발은 자금력만으로 해결되지 않는 위험한 영역입니다.

AI 칩 스타트업 그래프코어는 마이크로소프트와의 계약이 무산된 뒤 기업가치가 10억 달러나 깎였고 적자가 불어나 인력 감원에 들어갔습니다. 인텔 산하의 하바나 랩스는 직원의 약 10%를 해고했으며, 메타 역시 자체 AI 칩 개발에 난항을 겪으며 일부 실험용 하드웨어를 폐기한 바 있습니다.

오픈AI가 본격적으로 칩 개발에 착수하더라도 실제 제품이 나오기까지 수년의 시간과 매년 수억 달러의 비용이 소요됩니다. 마이크로소프트를 비롯한 투자자들이 이러한 위험 부담을 감수할지는 미지수입니다.

왜 중요한가

챗GPT를 매일 쓰는 일반 사용자와 개발자에게 이번 소식은 서비스의 안정성과 이용료에 직결되는 문제입니다. 지금의 속도 제한이나 API 호출 비용, 서비스 지연은 상당 부분 GPU 공급 부족에서 비롯되기 때문입니다. 다만 반도체 설계와 양산은 수년이 걸리는 장기 과제이므로, 당장 API 가격 인하나 성능 향상을 기대하기는 어렵습니다.

산업 전체로 보면 엔비디아가 쥐고 있는 독점적 시장 권력에 던지는 정면 도전입니다. 세계에서 가장 앞서 나가는 AI 소프트웨어 기업마저 칩 제작을 고민할 정도로 현재의 GPU 공급망 병목과 가격 부담이 한계에 다다랐음을 뜻합니다. 결국 주요 AI 기업들이 소프트웨어 모델뿐만 아니라 하드웨어 인프라까지 수직 계열화하려는 흐름이 더욱 거세질 것입니다.

우리는 오픈AI가 칩 개발 검토 카드를 꺼내 든 것 자체가 고도의 전략적 포석이라고 봅니다. 실제로 칩을 양산하지 못하더라도, 자체 칩을 만들 수 있다는 가능성을 보여주는 것만으로도 엔비디아와의 가격 협상이나 마이크로소프트로부터의 컴퓨팅 자원 배분에서 강력한 지렛대를 쥘 수 있습니다. 그러나 칩 비즈니스는 수많은 반도체 전문 기업조차 무릎을 꿇은 가혹한 시장입니다. 소프트웨어 기반인 오픈AI가 천문학적인 비용과 인력을 하드웨어 개발에 쏟아붓다가 자칫 프론티어 AI 모델 경쟁에서 집중력을 잃는 자충수가 될 위험도 분명히 존재합니다.