OpenAI, 엔비디아 등과 새 통신 규격 'MRC' 공개: 장애 발생해도 AI 훈련 중단 없다
OpenAI는 AMD, 브로드컴, 인텔, 마이크로소프트, 엔비디아와 협력해 개발한 GPU 네트워킹 프로토콜 'MRC'를 OCP를 통해 공개했다. 데이터를 수백 개 경로로 분산 전송해 마이크로초 단위로 장애를 우회한다. 이미 대규모 GB200 슈퍼컴퓨터에 도입되어 최신 모델 훈련에 쓰이고 있다.
GB200
OpenAI, 오라클과 맞손…스타게이트 데이터센터 4.5GW 추가 확보
OpenAI는 오라클과 협력해 미국 내 스타게이트 데이터센터 용량 4.5GW를 추가 구축하기로 합의했다. 텍사스 아빌린 프로젝트를 포함하면 총 개발 용량은 5GW를 넘어서며 200만 개 이상의 칩을 가동한다. 아빌린 시설에는 이미 엔비디아 GB200 랙이 투입되어 초기 훈련을 시작했다.
엔비디아 젠슨 황 "AI 연산 수요, 챗GPT 때보다 100배 폭증"
젠슨 황 엔비디아 CEO는 단계별로 사고하는 추론 모델의 등장으로 AI 연산 수요가 챗GPT 출시 시점보다 100배 늘었다고 밝혔다. 그는 딥시크로 인한 인프라 비용 절감 우려를 반박하며, 고도화된 추론 모델이 오히려 더 많은 칩을 필요로 한다고 강조했다.
엔비디아, 블랙웰 AI 칩 전면 양산 중…1만 3천 개 샘플 출하
엔비디아가 Q3 실적 발표에서 차세대 블랙웰 AI 칩이 전면 양산 단계에 들어섰으며 순조롭게 공급 중이라고 밝혔습니다. 서버 냉각 문제 관련 보도에는 직접 언급 없이 이번 분기에만 1만 3,000개의 샘플을 출하했다고 전했으며, 젠슨 황 CEO는 칩 상태가 매우 훌륭하다고 강조했습니다.
엔비디아 2분기 매출 2배 급증해 300억 달러 돌파, 그러나 시간외 주가 7% 하락
엔비디아가 발표한 2분기 매출은 전년 대비 122% 급증한 300억 4,000만 달러로 시장 전망치를 웃돌았습니다. 데이터센터 매출이 154% 폭증했으나, 블랙웰 칩 재설계로 매출총이익률이 소폭 하락하고 투자자들의 눈높이가 지나치게 높았던 탓에 시간외 거래에서 주가는 7% 이상 하락했습니다.
엔비디아, 차세대 블랙웰 공개: 추론 성능 5배 향상으로 조 단위 모델 정조준
엔비디아 젠슨 황 CEO가 GTC에서 차세대 컴퓨팅 플랫폼 '블랙웰(Blackwell)'을 전격 발표했다. 조 단위 파라미터 모델을 겨냥한 이번 아키텍처는 호퍼 대비 FP4 추론 성능을 최대 5배 끌어올렸으며, GB200 슈퍼칩과 소프트웨어 배포 도구 NIM도 함께 공개했다. 사실상 범용 컴퓨팅의 한계를 선언하고 생성형 AI 가속 인프라의 표준을 다시 세운 셈이다.