OpenAI, 자체 AI 칩 개발 검토…엔비디아 의존 탈피 노린다

사용자가 질문을 던질 때마다 천문학적인 서버 비용이 청구되는 상황이라면, 누구라도 바닥에 깔린 칩을 직접 만들 생각을 하게 될 것입니다.

로이터 통신에 따르면 OpenAI가 자체 AI 칩 개발 방안을 진지하게 검토하고 있습니다. 사내에서 칩 전략을 둘러싼 논의는 최소 지난해부터 이어져 왔으며, 샘 올트먼 CEO 역시 추가 AI 칩 확보를 회사의 최우선 과제로 지정한 것으로 전해졌습니다. OpenAI는 내부 칩 설계뿐만 아니라 외부 AI 칩 제조사 인수까지 여러 방안을 올려두고 저울질하고 있습니다.

엔비디아 품귀와 감당하기 힘든 GPU 청구서

현재 OpenAI는 챗GPT와 GPT-4, 달리 3 모델을 학습시키고 서비스하기 위해 전적으로 GPU 기반 하드웨어에 의존하고 있습니다. 병렬 연산에 강한 GPU는 거대 언어 모델 구동에 필수적이지만, 생성형 AI 열풍으로 공급망은 극심한 병목에 걸렸습니다.

엔비디아의 최고 성능 AI 칩은 2024년까지 주문이 모두 마감된 것으로 알려졌습니다. 심지어 최대 후원사인 마이크로소프트조차 여름 실적 발표에서 서버 하드웨어 부족이 심각해 서비스 중단 위험까지 배제할 수 없다고 경고했을 정도입니다.

비용 압박도 상상을 초월합니다. 번스타인의 애널리스트 스테이시 래스곤은 챗GPT 질의량이 구글 검색의 10% 수준까지 늘어날 경우 초기에만 약 481억 달러 규모의 GPU가 필요하고, 운영 유지를 위해 매년 약 160억 달러어치 칩을 추가로 사들여야 한다고 추산했습니다.

OpenAI가 110억 달러 이상의 투자를 유치했고 연간 환산 매출 10억 달러를 눈앞에 두고 있으며 기업가치 900억 달러로 구주 매각을 논의 중이라 해도, 이 정도 액수는 감당하기 어려운 규모입니다.

빅테크의 칩 내재화와 만만치 않은 하드웨어 잔혹사

자체 칩 개발은 빅테크 진영에서 이미 검증된 수순이기도 합니다. 구글은 일찌감치 자체 TPU를 개발해 PaLM-2와 이메진 등을 학습시켰고, 아마존 AWS는 학습용 트레이니움과 추론용 인퍼런시아를 제공하고 있습니다. 마이크로소프트 역시 AMD와 손잡고 코드명 아테나라는 내부 AI 칩을 준비 중이며, OpenAI도 이를 테스트 중인 것으로 알려졌습니다.

문제는 하드웨어 비즈니스가 상상 이상으로 냉혹하다는 점입니다.

영국의 유명 AI 칩 스타트업 그래프코어는 마이크로소프트와의 계약이 무산된 뒤 기업가치가 10억 달러 깎였고 매출 감소와 손실 누적으로 인력 감축에 들어갔습니다. 인텔이 인수한 하바나 랩스 역시 직원의 약 10%를 내보냈으며, 메타도 자체 칩 개발 과정에서 문제를 겪으며 일부 실험용 하드웨어를 폐기한 바 있습니다.

독자 칩을 실제 데이터센터에 투입하기까지는 수년의 시간과 매년 수억 달러의 개발비가 들어갑니다. 마이크로소프트를 포함한 투자자들이 이처럼 위험 부담이 큰 도박을 선뜻 지지할지는 아직 불투명합니다.

왜 중요한가

일반 이용자나 서드파티 개발자 입장에서 OpenAI의 칩 개발 소식이 당장의 서비스 환경을 바꿔놓지는 않습니다. 반도체는 설계를 시작해 테이프아웃과 양산, 서버 랙 장착까지 최소 수년이 걸리기 때문에 당분간은 지금처럼 엔비디아 칩 수급 상황에 따른 호출 제한과 속도 저하를 감내해야 합니다.

우리는 OpenAI의 이번 행보를 엔비디아에 대한 극단적인 의존도를 낮추기 위한 장기적인 위험 분산 전략으로 봅니다. 단일 칩 공급사에 인프라의 명줄을 맡겨놓아서는 가격 협상력을 가질 수 없고, 엔비디아의 생산 일정에 회사의 성장 한계가 갇히게 됩니다. 설령 자체 칩이 제한적인 규모에 그치더라도, 칩 내재화 카드를 쥐고 있는 것만으로 엔비디아와의 단가 협상이나 마이크로소프트의 아테나 물량 배정에서 훨씬 유리한 고지를 점할 수 있습니다.

다만 본업의 집중도가 흐려질 위험은 분명합니다. OpenAI의 절대적인 경쟁력은 최정상급 인공지능 연구 인력과 모델 고도화에 있습니다. 하드웨어 엔지니어링은 완전히 다른 영역의 전문성과 운영 규율을 요구하며 메타 같은 거인조차 수차례 시행착오를 겪었습니다. 자본과 경영진의 관심이 하드웨어라는 위험한 수렁으로 분산될 경우 최전선 모델 경쟁에서 추진력을 잃을 수도 있어 보입니다.