엔비디아, AWS에 아이작 심 및 L40S GPU 지원: 로봇 시뮬레이션 성능 2배 향상
엔비디아가 로봇 시뮬레이션 플랫폼 '아이작 심'과 L40S GPU를 AWS에 도입했다. 이전 세대 A40 대비 로봇 시뮬레이션 속도가 2배 빨라졌으며 옴니버스 렌더링은 최대 3.8배 향상됐다. AWS 마켓플레이스의 AMI를 통해 클라우드에서 바로 구동할 수 있다.
엔비디아가 로봇 시뮬레이션 플랫폼 '아이작 심'과 L40S GPU를 AWS에 도입했다. 이전 세대 A40 대비 로봇 시뮬레이션 속도가 2배 빨라졌으며 옴니버스 렌더링은 최대 3.8배 향상됐다. AWS 마켓플레이스의 AMI를 통해 클라우드에서 바로 구동할 수 있다.
NVIDIA CEO 젠슨 황은 프랑스 스케일웨이 행사에서 국가별 '소버린 AI' 구축과 전 산업 확산이 AI의 2차 파고를 이끌고 있다고 밝혔다. 이에 맞춰 스케일웨이는 유럽 규제에 맞춘 H100 GPU 1,016장 규모의 슈퍼컴퓨터 '나부' 가동을 시작했다.
엔비디아가 호퍼 아키텍처 기반의 H200 텐서 코어 GPU를 공개했다. HBM3e를 최초 탑재해 141GB 메모리와 초당 4.8TB 대역폭을 제공하며 A100 대비 두 배 가까운 용량을 갖췄다. 기존 H100 시스템과 호환되며 내년 2분기 출하될 예정이다.
영국 정부가 2억 2500만 파운드를 투자해 AI 슈퍼컴퓨터 Isambard-AI를 구축한다고 발표했다. 브리스톨 대학교와 Hewlett Packard Enterprise가 협력해 제작하며, NVIDIA GH200 슈퍼칩 5448개를 탑재해 21 exaflops의 AI 성능을 제공할 예정이다.
핀드(Phind)는 HumanEval 벤치마크에서 74.7%를 기록하며 GPT-4를 앞서는 코딩 전문 모델을 공개했다. 엔비디아 TensorRT-LLM과 H100을 활용해 초당 100토큰의 빠른 속도와 16k 컨텍스트를 지원한다. 해당 모델은 허깅페이스에 오픈소스로 공개되었으며 웹 및 VS Code 확장 프로그램에서 무료로 쓸 수 있다.
빌 게이츠 마이크로소프트 공동창업자가 독일 경제지 한델스블라트와의 인터뷰에서 생성형 AI 기술이 한계에 부딪혔으며, GPT-5가 GPT-4보다 크게 낫지 않을 것이라고 밝혔다. 다만 향후 2~5년 안에 AI 정확도가 향상되고 비용이 낮아지면서 헬스케어 등에서 신뢰할 수 있는 서비스가 늘어날 것으로 전망했다.
레노버가 TechWorld 2023에서 공용 모델과 기업용 프라이빗 모델, 개인용 온디바이스 모델을 아우르는 하이브리드 AI 전략을 발표했다. 엔비디아와의 파트너십을 확대해 AI 워크스테이션을 최적화하는 한편, 모델 압축 기술을 통해 대형 언어 모델을 개인 PC에서도 구동할 수 있도록 지원할 계획이다.
플로리다대 연구진이 구글 스트리트 뷰와 엔비디아 DGX A100을 결합해 도시 건물 안전을 자동 평가하는 딥러닝 시스템을 공개했다. 재해 후 수개월이 걸리던 점검 작업을 몇 시간으로 단축하며, FEMA 기준 평가 정확도는 85%를 넘는다. 현재 멕시코 등 현지 지자체에서 실증 테스트 중이다.
엔비디아 리서치가 GPT-4 기반으로 강화학습 보상 알고리즘을 자동 작성하는 AI 에이전트 'Eureka'를 발표했다. 로봇 손의 펜 돌리기 등 30여 개 작업 중 80% 이상에서 인간 전문가가 짠 코드보다 뛰어난 성과를 내며 로봇 제어 성능을 평균 50% 이상 끌어올렸다.
마스터피스 스튜디오가 엔비디아와 협력해 텍스트 기반 3D 생성 도구 'Masterpiece X – Generate'를 공개했다. 엔비디아 피카소(Picasso) 가속 기술을 접목해 브라우저에서 텍스트 입력만으로 텍스처와 모션을 갖춘 3D 에셋을 생성하며 블렌더 및 언리얼 엔진으로 내보낼 수 있다. 고화질 AAA 에셋용은 아니지만 신속한 프로토타이핑에 유용하다.
로이터에 따르면 OpenAI가 GPU 부족과 막대한 인프라 비용에 대응하기 위해 자체 AI 칩 설계나 반도체 기업 인수를 검토 중이다. 샘 올트먼 CEO는 칩 확보를 최우선 과제로 삼았으나, 칩 개발에는 수년의 시간과 막대한 투자가 필요한 만큼 리스크도 크다.
로이터통신에 따르면, 오픈AI는 GPU 품귀 현상에 대응해 자체 AI 칩 설계나 관련 기업 인수를 검토 중이다. 샘 알트먼 CEO는 칩 확보를 최우선 순위로 지정했다. 폭증하는 챗GPT 운영 비용을 낮추려는 시도지만, 칩 개발에는 수년의 시간과 막대한 자금이 소요된다.
의료 스타트업 인베니오 이미징이 엔비디아와 협력해 수술실 현장에서 3분 만에 생검 조직을 분석하는 AI 시스템을 공개했다. 수주일씩 걸리던 병리 검사를 즉각 처리해 외과의가 수술 도중 암세포 유무를 신속하게 확인하고 결정을 내릴 수 있도록 돕는다.
게티이미지가 엔비디아와 협력해 자체 라이선스 이미지로만 학습한 이미지 생성 도구 'Generative AI by Getty Images'를 출시했다. 상업적 이용 시 완전한 저작권 면책을 보장하며, 실존 인물이나 특정 예술가 화풍 생성은 차단된다. 저작권 소송 리스크를 피하려는 기업 고객을 정조준한 행보다.
챈 저커버그 이니셔티브(CZI)가 1,000개 이상의 엔비디아 H100 GPU로 구성된 비영리 의료 연구용 AI 컴퓨팅 클러스터를 구축한다고 발표했다. 생성형 AI를 활용해 인체 세포를 시뮬레이션하는 '가상 세포' 모델을 개발하여 질병과 신약 반응을 예측하는 것이 목표다. CZI는 완성된 연구 모델을 과학자들에게 공개 제공할 예정이다.
엔비디아가 거대언어모델 추론을 가속하는 오픈소스 라이브러리 TensorRT-LLM을 공개했다. 인플라이트 배칭과 FP8 양자화를 적용해 H100 GPU 환경에서 A100 대비 최대 8배의 처리량과 라마 2 4.6배 속도 향상을 기록했다. 개발자는 C++이나 CUDA 없이 파이썬 API로 병렬 처리를 제어하며 데이터센터 비용을 크게 절감할 수 있다.
중국 자율주행 스타트업 딥루트(Deeproute.ai)가 2024년 독일 거점을 마련하고 유럽 완성차 시장 공략에 나선다고 밝혔다. 핵심 무기는 고정밀 지도 없이 작동하며 하드웨어 가격을 약 2000달러로 낮춘 '드라이브 3.0'이다. 로보택시 대신 수익화가 빠른 양산 지원으로 방향을 틀며 고객사 확보에 속도를 내고 있다.
미국 정부가 엔비디아와 AMD의 첨단 AI 칩 수출 통제를 중동 일부 국가로 확대해 A100 및 H100 제품 공급 시 추가 라이선스를 취득하도록 했다. 양사는 이번 조치가 당장 매출에 중대한 영향을 주지는 않는다고 밝혔으나, AI 연산 자원에 대한 미국의 기술 통제망이 더 넓어지고 있다.
구글 클라우드가 엔비디아 H100 GPU 기반의 A3 인스턴스를 정식 출시했다. 양사는 거대언어모델 학습용 PaxML 프레임워크를 엔비디아 GPU에 맞게 최적화하고 NGC에 등록하는 등 긴밀한 기술 협력을 이어간다.
구글 클라우드가 AI 학습 및 추론을 위한 5세대 자체 TPU 칩을 발표했다. 비용 효율성에 집중해 달러당 학습 성능은 2배, 추론 성능은 2.5배 향상됐다. 단일 AI 작업을 수만 개 칩 규모의 다중 클러스터로 확장할 수 있도록 지원하는 점도 특징이다.