엔비디아, 차세대 블랙웰 공개: 추론 성능 5배 향상으로 조 단위 모델 정조준

젠슨 황 CEO가 재킷 주머니에서 큼직한 프로세서를 꺼내 2년 전 출시된 호퍼 칩 옆에 나란히 들어 올렸습니다. 호퍼가 순식간에 작아 보일 정도의 압도적인 크기였습니다.

실리콘밸리 SAP 센터에 모인 1만 2천여 명의 청중 앞에서 젠슨 황은 범용 컴퓨팅의 시대는 끝났다고 선언했습니다. 1조 개가 넘는 매개변수를 처리해야 하는 생성형 AI 시대를 위해 엔비디아가 내놓은 카드가 바로 블랙웰 플랫폼입니다.

단일 랙에서 구현한 엑사플롭스 연산

블랙웰 아키텍처는 칩당 FP8 학습 성능에서 호퍼 대비 2.5배, FP4 추론 성능에서는 5배라는 비약적인 속도 향상을 보여줍니다.

이 칩들을 하나로 묶기 위해 5세대 NVLink가 투입되었습니다. 대역폭이 이전 세대보다 두 배 늘어나 최대 576개의 GPU를 연결할 수 있으며, 초당 1.8TB 대역폭을 처리하는 NVLink 스위치 칩도 새로 개발되었습니다.

시스템의 핵심인 GB200 그레이스 블랙웰 슈퍼칩은 두 개의 블랙웰 GPU와 하나의 그레이스 CPU를 초당 900GB 초저전력 인터커넥트로 연결했습니다.

이를 수랭식 단일 랙으로 구성한 GB200 NVL72는 무게만 약 1,360kg에 60만 개의 부품으로 이뤄졌습니다. 단 하나의 랙에서 FP4 기준 1.4엑사플롭스의 추론 연산 능력을 뿜어내며, 상위 모델인 DGX 슈퍼POD는 11.5엑사플롭스까지 연산 규모를 확장합니다.

파이썬 코딩 대신 AI 팀을 조립하는 시대

엔비디아는 하드웨어에 그치지 않고 새로운 소프트웨어 패키징 방식인 엔비디아 NIM도 공개했습니다.

젠슨 황은 미래의 소프트웨어 개발이 파이썬 코드를 한 줄씩 짜는 방식이 아니라, 잘 만들어진 AI 모델들을 팀처럼 조립해 임무를 부여하는 형태가 될 것이라고 강조했습니다.

NIM은 모델과 가속 라이브러리를 표준 API 형태로 묶어 제공하므로, 기업은 기존 데이터와 결합해 손쉽게 사내 맞춤형 코파일럿을 구축할 수 있습니다.

반도체 제조 분야에서는 TSMC 및 시놉시스와 협력한 연산 리소그래피 플랫폼 cuLitho의 양산 적용이 발표되었습니다. 가장 연산 집약적인 공정을 40배에서 60배까지 가속화합니다.

왜 중요한가

개발자와 기업 입장에서는 추론 성능 5배 향상이 주는 비용 절감 효과가 가장 큽니다. 막대한 비용 때문에 도입을 망설였던 초대형 멀티모달 모델을 상용 서비스에 적용할 수 있는 현실적인 문턱이 열린 셈입니다.

업계 경쟁 측면에서 엔비디아는 개별 칩 판매를 넘어 스위치 네트워크, 수랭 랙, 소프트웨어 배포 계층을 아우르는 데이터센터 자체를 상품화했습니다. 칩 성능만 뒤쫓던 경쟁사들은 이제 인프라 전체 설계 역량에서도 격차를 메워야 하는 처지에 놓였습니다.

우리가 보기에 이 풀스택 전략은 고객을 가두는 데 매우 효과적이지만, 현장 인프라의 한계라는 숙제를 남깁니다. 1.3톤이 넘는 고밀도 수랭 랙을 수용하려면 데이터센터의 전력과 공조 시설을 통째로 뜯어고쳐야 하므로, 초기 혜택은 초대형 클라우드 기업들에 집중될 것으로 보입니다.