OpenAI, 구글 TPU 도입 시작: 엔비디아 의존 줄이고 비용 절감
로이터에 따르면 OpenAI가 ChatGPT 등의 추론 작업에 구글의 TPU를 임대해 사용하기 시작했다. 그동안 엔비디아 GPU에 전적으로 의존해온 컴퓨팅 인프라를 다변화해 급증하는 추론 비용을 낮추고 단일 공급업체 리스크를 줄이려는 조치다.
NVIDIA
최신 소식 보기
엔비디아, 아이작 심 5.0 및 아이작 랩 2.2 개발자 프리뷰 공개
엔비디아가 GitHub에 Isaac Sim 5.0과 Isaac Lab 2.2의 조기 개발자 프리뷰를 공개했다. 물리 시뮬레이션 환경에서 로봇을 훈련하고 검증할 수 있는 도구로, 오픈소스 전환과 합성 데이터 생성 확장 기능, 신규 로봇 모델이 추가됐다.
엔비디아·도이치텔레콤, 유럽 최초 산업용 AI 클라우드 구축
엔비디아가 도이치텔레콤과 손잡고 독일 최대 규모의 산업용 AI 클라우드를 구축한다고 발표했다. 1단계로 1만 개의 엔비디아 블랙웰 GPU를 배치해 유럽 제조 기업의 디지털 트윈과 NEURA Robotics의 인지 로봇 훈련을 지원하며, 주권 AI 인프라 확립에 나선다.
엔비디아 텐서RT, 스테이블 디퓨전 3.5 VRAM 40% 줄이고 속도 2배 향상
엔비디아가 스태빌리티 AI와 협력해 스테이블 디퓨전 3.5에 텐서RT 가속 및 FP8 양자화를 적용했다. SD3.5 라지 모델의 VRAM 요구량을 18GB 이상에서 11GB로 40% 줄였고 속도는 최대 2.3배 향상돼 일반 소비자용 RTX GPU에서도 원활히 구동된다.
시스코의 ‘사티아 나델라 모멘트’? 지투 파텔 주도로 AI 인프라 재편
Cisco Live 기간 동안 지투 파텔 신임 사장 주도로 복잡했던 제품군을 통합하고 엔비디아와의 AI 협력을 강화하면서 시스코 주가가 52주 신고가를 기록했다. 업계에서는 과거 마이크로소프트의 혁신처럼 시스코가 영업 중심에서 벗어나 제품 중심 AI 기업으로 전환할지 주목하고 있다.
미스트랄 AI, 자체 AI 인프라 플랫폼 'Mistral Compute' 출시
미스트랄 AI가 AI 인프라 플랫폼 'Mistral Compute'를 공개했다. 베어메탈 서버부터 관리형 PaaS까지 GPU, 오케스트레이션, API를 통합 제공하며, 미국과 중국 클라우드에 의존하지 않는 독립적 데이터 주권을 강조한다.
딥엘, 엔비디아 B200 도입…"웹 전체 번역 18일이면 끝"
독일 번역 스타트업 딥엘이 수요일 엔비디아 B200 기반 DGX 슈퍼팟을 도입했다고 밝혔다. 이를 통해 인터넷 전체를 번역하는 기간을 기존 194일에서 18일로 대폭 단축했다. 딥엘은 확보한 연산력을 바탕으로 차세대 모델 개발과 문맥 반영 번역 도구인 Clarify 개선에 집중한다.
시스코, AI 데이터 병목 해소 위해 데이터센터 및 캠퍼스 네트워크 전면 개편
시스코가 이번 주 시스코 라이브에서 AI 워크로드 수요에 대응하기 위해 스위치, 라우터, 관리 소프트웨어를 아우르는 네트워크 제품군을 대거 업그레이드했습니다. AI 어시스턴트가 내장된 통합 넥서스 대시보드와 400G 광 모듈, 실리콘원 기반 캠퍼스 스위치를 앞세워 엔터프라이즈 AI 인프라 확장을 지원합니다.
AMD, 광자 칩 스타트업 에노세미 인수: AI 랙스케일 CPO 기술 개발 가속
AMD가 광자 칩 개발 스타트업 에노세미(Enosemi)를 인수했다고 발표했다. 인수 금액은 비공개다. AMD는 에노세미의 기술을 바탕으로 광트랜시버를 스위치 칩에 직접 통합하는 CPO(공동 패키징 광학) 기술 개발을 본격화해 대규모 AI 클러스터의 전력 효율과 전송 지연을 크게 개선할 계획이다.
엔비디아, 온디바이스용 추론 모델 '라마 네모트론 나노 4B' 공개
엔비디아가 엣지 기기를 위한 오픈 추론 모델 'Llama Nemotron Nano 4B'를 공개했습니다. 80억 파라미터 이하 경쟁 오픈 모델 대비 처리량을 50% 끌어올렸으며, 코딩과 복잡한 수학 연산에 최적화됐습니다. 젯슨 및 RTX GPU에서 로컬로 바로 실행 가능합니다.
구글, SynthID 디텍터 출시: 텍스트·음성·영상 속 AI 워터마크 한곳에서 감지
구글이 텍스트, 오디오, 이미지, 영상에 포함된 SynthID 워터마크를 감지하는 'SynthID Detector' 포털을 발표했다. 워터마크가 감지된 특정 영역까지 짚어내는 것이 특징이다. 현재 기자, 언론 관계자, 연구자를 대상으로 대기자 명단을 접수하고 있다.
엔비디아 젠슨 황, 수조 달러 규모 'AI 인프라' 시대 선언
젠슨 황 엔비디아 CEO는 COMPUTEX 2025 기조연설에서 AI 데이터센터가 토큰을 생산하는 'AI 공장'으로 진화하며 수조 달러 규모의 거대 인프라 산업을 형성할 것이라고 밝혔다. 현장에서는 맞춤형 인터커넥트 NVLink Fusion, 개인용 슈퍼컴퓨터 DGX Spark, 로봇 물리 엔진 Newton 등도 함께 공개됐다.
엔비디아 싱글 Grace CPU C1 생태계 확대, 전력 효율 2배로 엣지·통신 공략
엔비디아가 컴퓨텍스에서 싱글 칩 구성의 Grace CPU C1에 대한 폭스콘, 슈퍼마이크로 등 주요 파트너사의 광범위한 지원을 공개했다. 기존 CPU 대비 2배의 전력 효율을 내세워 엣지, 통신 AI-RAN, 스토리지 등 전력 제약이 심한 환경에 본격 도입되고 있다.
NVIDIA, 스토리지 기업과 협력해 에이전틱 AI 지원 'AI 데이터 플랫폼' 공개
NVIDIA는 델, IBM, 넷앱 등 주요 스토리지 기업과 함께 'NVIDIA AI 데이터 플랫폼' 기반의 인프라 솔루션을 발표했다. GPU와 DPU를 스토리지 인근에 통합해 AI 에이전트가 방대한 기업 데이터를 실시간 검색하고 복잡한 추론을 빠르게 수행하도록 돕는다.
엔비디아, 휴머노이드 로봇 모델 'GR00T N1.5' 공개…합성 데이터로 학습 36시간 만에 완료
컴퓨텍스에서 엔비디아가 휴머노이드 로봇 파운데이션 모델 Isaac GR00T N1.5와 합성 모션 생성 청사진 GR00T-Dreams를 발표했다. 이미지 한 장으로 로봇 동작 시뮬레이션 영상을 생성해, 3개월 걸리던 데이터 수집과 학습을 단 36시간 만에 끝냈다.
엔비디아, 맞춤형 칩 품는 'NVLink 퓨전' 공개
엔비디아가 맞춤형 칩을 자사 NVLink 생태계에 직접 결합할 수 있는 'NVLink 퓨전'을 공개했다. 퀄컴, 미디어텍, 마벨, 후지쯔 등이 파트너로 참여해 자체 CPU와 ASIC을 엔비디아 랙 시스템에 연결한다. 클라우드 기업들은 자체 칩을 버리지 않고도 엔비디아 인프라와 융합해 초대형 AI 공장을 꾸릴 수 있게 됐다.
LM Studio 0.3.15 출시: CUDA 12.8 지원으로 RTX 추론 최대 35% 향상
로컬 LLM 구동 툴 LM Studio가 0.3.15 버전으로 업데이트되며 CUDA 12.8을 공식 지원한다. CUDA 그래프 및 플래시 어텐션 커널을 적용해 RTX GPU에서의 추론 처리량을 최대 35% 끌어올렸으며, RTX 20 시리즈부터 최신 블랙웰 아키텍처까지 호환된다. 외부 도구 호출을 제어하는 tool_choice 매개변수도 추가되어 로컬 에이전트 구축이 더 수월해졌다.
서비스나우·엔비디아, 기업용 에이전트 특화 추론 모델 'Apriel Nemotron 15B' 공개
서비스나우와 엔비디아가 기업용 AI 에이전트를 위한 오픈소스 추론 모델 'Apriel Nemotron 15B'를 선보였다. 엔비디아 NIM 마이크로서비스로 제공돼 지연 시간과 추론 비용을 낮춘 것이 특징이다. 업무 워크플로 데이터로 모델을 지속 튜닝할 수 있는 데이터 플라이휠 아키텍처도 함께 구축했다.
엔비디아, 1초 만에 1시간 오디오 전사하는 Parakeet-TDT-v2 오픈소스 공개
엔비디아가 허깅페이스에 음성 인식 모델 'Parakeet-TDT-0.6B-v2'를 오픈소스로 공개했다. 6억 개 매개변수 규모로 GPU 구동 시 1초 만에 1시간 분량 오디오를 전사하며 오픈 ASR 리더보드 1위를 차지했다. CC-BY-4.0 라이선스로 상업적 이용도 자유롭다.
엔비디아, H20 규제 속 중국 맞춤형 AI 칩 또 개발 추진
외신에 따르면, 엔비디아가 H20 칩 수출 규제로 55억 달러의 손실을 낸 뒤 새로운 대중국 규제 준수형 AI 칩 개발에 착수했다. 이미 알리바바, 텐센트, 바이트댄스 등에 관련 계획을 설명한 것으로 알려졌다. 화웨이 어센드 910C의 공급 확대에 맞서 전체 매출의 13%를 차지하는 중국 시장 방어에 나선 셈이다.