블록케이드 랩스, Skybox AI Model 3 공개: 8K 지원으로 비전 프로 공략
블록케이드 랩스가 360도 배경 생성 AI인 Skybox AI의 Model 3 업데이트를 출시했다. 이전 세대 대비 픽셀이 77% 늘어난 8K 해상도 생성을 지원해 애플 비전 프로 콘텐츠 제작에 최적화됐다. 기존 파노라마 이미지를 업로드해 재가공하는 리믹스 기능도 함께 추가됐다.
NVIDIA
최신 소식 보기
엔비디아, 메타 '라마 3' 전 플랫폼 추론 최적화 지원
엔비디아가 메타의 최신 대규모 언어 모델 '라마 3'를 지원하기 위해 전 플랫폼 추론 최적화를 발표했다. H200 GPU 한 장으로 70B 모델 구동 시 초당 약 3,000토큰을 생성해 300명의 동시 사용자를 처리하며, 8B 모델은 RTX PC와 젯슨 오린 등 엣지 기기까지 지원된다.
인텔 가우디 3 공개: 엔비디아 H100 대비 최대 1.7배 빠르다 주장
인텔이 Vision 2024 행사에서 엔터프라이즈용 AI 칩 '가우디 3'를 발표했다. TSMC 5nm 공정과 128GB HBM2e를 탑재해 라마(LLaMA) 등 주요 LLM에서 엔비디아 H100보다 최대 1.7배 빠르고 전력 효율은 2.3배 높다고 주장했다. 공랭식 모델은 3분기, 수랭식은 4분기에 정식 출시된다.
MLPerf 추론 벤치마크 공개: 엔비디아 H200 싹쓸이, AMD는 또 불참
MLCommons가 발표한 최신 MLPerf 추론 벤치마크에서 엔비디아가 H200과 TensorRT-LLM 최적화로 전 부문을 휩쓸었다. 현재 추론 작업은 엔비디아 데이터센터 매출의 약 40%를 차지한다. 인텔은 가우디2와 제온 결과를 제출한 반면 AMD는 이번에도 벤치마크에 참여하지 않았다.
엔비디아, 차세대 블랙웰 공개: 추론 성능 5배 향상으로 조 단위 모델 정조준
엔비디아 젠슨 황 CEO가 GTC에서 차세대 컴퓨팅 플랫폼 '블랙웰(Blackwell)'을 전격 발표했다. 조 단위 파라미터 모델을 겨냥한 이번 아키텍처는 호퍼 대비 FP4 추론 성능을 최대 5배 끌어올렸으며, GB200 슈퍼칩과 소프트웨어 배포 도구 NIM도 함께 공개했다. 사실상 범용 컴퓨팅의 한계를 선언하고 생성형 AI 가속 인프라의 표준을 다시 세운 셈이다.
엔비디아, GPU로 양자컴퓨터 시뮬레이션하는 '퀀텀 클라우드' 발표
엔비디아가 GTC에서 GPU 기반 양자 시뮬레이션 서비스 '엔비디아 퀀텀 클라우드'를 공개했다. 물리적 양자 프로세서가 성숙하기 전 신소재, 화학, 금융 사기 탐지 알고리즘을 테스트할 수 있도록 지원하며, 양자 내성 암호 라이브러리 cuPQC도 함께 선보였다. 현재 얼리 액세스로 제공된다.
엔비디아, 휴머노이드 로봇용 범용 파운데이션 모델 'GR00T' 공개
엔비디아가 GTC 콘퍼런스에서 휴머노이드 로봇을 위한 범용 AI 플랫폼 '프로젝트 GR00T'와 전용 컴퓨터 '젯슨 토르'를 발표했다. 보스턴 다이내믹스, 피규어 AI, 유니트리 등 주요 로봇 제조사들이 대거 합류해 피지컬 AI 개발 생태계 구축에 나선다.
엔비디아, 기후 디지털 트윈 '어스-2' 공개: 생성형 AI로 기상 예측 1000배 가속
GTC 2024에서 엔비디아가 지구 기후 디지털 트윈 클라우드 플랫폼 '어스-2(Earth-2)'를 발표했다. 생성형 AI 모델 CorrDiff와 옴니버스를 결합해 기존 수치 예보 모델보다 최대 1000배 빠르고 3000배 높은 에너지 효율로 2km 해상도 기상 예측을 제공한다. 대만 기상국 등이 태풍 경로 조기 예측에 도입했다.
AI 검색 스타트업 퍼플렉시티, 기업가치 10억 달러로 유니콘 등극 임박
월스트리트저널에 따르면 AI 검색 스타트업 퍼플렉시티가 기업가치 약 10억 달러를 인정받는 신규 투자 유치를 마무리하고 있다. 두 달 전 평가액인 5억 2000만 달러에서 두 배 가까이 뛴 수치이며, 최근 연간 매출 1000만 달러도 넘어섰다.
MS '다이렉트SR' 공개: DLSS·FSR·XeSS 코드 하나로 지원
마이크로소프트는 엔비디아, AMD, 인텔과 협력해 PC 게임의 AI 초해상도 기술을 통합하는 'DirectSR' API를 발표했다. 개발자는 단일 코드 경로로 DLSS, FSR, XeSS를 모두 활성화할 수 있다. 조만간 Agility SDK 프리뷰 버전으로 공개될 예정이다.
휴머노이드 로봇 피규어 AI, 6.75억 달러 유치…베이조스·엔비디아 참여
휴머노이드 로봇 스타트업 피규어 AI(Figure AI)가 6억 7500만 달러 투자를 유치하며 기업가치 26억 달러를 기록했다. 베이조스, 엔비디아, 마이크로소프트, OpenAI 등이 참여했으며, OpenAI와 함께 로봇용 차세대 AI 모델을 개발하기로 협력했다.
구글, 제미나이 기술 담은 오픈 모델 '젬마' 공개…노트북 구동 및 상업적 사용 가능
구글이 제미나이 기술 기반의 경량 오픈 모델 '젬마(Gemma)' 2B 및 7B를 공개했다. 동급 오픈 모델 대비 최고 수준의 성능을 갖춰 개인 노트북에서도 직접 실행할 수 있으며, 모든 조직의 상업적 이용을 지원한다.
초당 247토큰 폭주…AI 칩 스타트업 Groq의 'LPU' 화제
AI 칩 스타트업 Groq가 선보인 언어처리장치(LPU) 구동 속도가 온라인에서 큰 주목을 받았다. 제3자 테스트 결과 초당 247토큰을 처리해 기존 클라우드 대비 13배 이상 빨랐다. 실시간 음성 대화가 가능할 만큼 지연 시간을 줄였으나, GPU 대비 확장성 입증은 과제로 꼽힌다.
엔비디아, PC 로컬 챗봇 'Chat with RTX' 무료 공개: 내 문서·유튜브 영상으로 대화
엔비디아가 윈도우 PC에서 오프라인으로 맞춤형 챗봇을 구동할 수 있는 데모 'Chat with RTX'를 무료 배포했다. Mistral, Llama 2 등 오픈소스 LLM에 로컬 문서나 유튜브 링크를 연결해 빠르게 검색하고 대화할 수 있으며 데이터가 외부에 유출되지 않는다. 단, 8GB 이상 VRAM을 갖춘 GeForce RTX 30 Series GPU 이상이 필요하다.
젠슨 황 엔비디아 CEO "모든 국가에 '소버린 AI' 필요하다"
엔비디아의 젠슨 황 CEO는 두바이 세계정부정상회의에서 각국이 자국의 데이터와 문화적 지능을 직접 보유하는 '소버린 AI'를 구축해야 한다고 강조했다. 그는 국가 단위의 인프라 구축이 생각보다 어렵지 않다며 누구나 인간의 언어로 프로그래밍하는 시대가 열렸다고 덧붙였다.
샘 알트만, 최대 7조 달러 규모 AI 반도체 펀딩 추진설
외신에 따르면 오픈AI CEO 샘 알트만이 글로벌 반도체 및 인프라 확충을 위해 최대 7조 달러 규모의 펀딩을 타진 중이다. AI 칩 공급 부족이 성장을 가로막고 있다고 보고 엔비디아 의존도를 낮추려는 구상이다. 다만 전례 없는 천문학적 규모인 만큼 실현 가능성에 대한 의문도 함께 제기된다.
메타, 차세대 AI '라마 3' 훈련 돌입…연내 H100 34만 대 확보 선언
마크 저커버그 메타 CEO는 차세대 대형 언어 모델 '라마 3'의 훈련을 시작했다고 밝혔습니다. 범용인공지능(AGI) 개발을 위해 추론과 코딩 능력을 대폭 강화할 계획이며, 2024년 말까지 엔비디아 H100 GPU를 34만 대 이상 확보해 업계 최대 규모의 인프라를 구축하겠다고 강조했습니다.
AMD, MI300 AI 칩 공개: H100 추론 성능 넘어서며 엔비디아에 도전장
AMD가 LLM 학습 및 추론을 위한 Instinct MI300X 가속기와 MI300A APU를 공개했다. Llama 2 추론에서 엔비디아 H100 대비 1.4배 빠른 성능을 앞세웠으며, 마이크로소프트와 메타가 도입을 확정했다. NPU를 탑재한 노트북용 라이젠 8040 시리즈도 함께 발표됐다.
엔비디아 젠슨 황 CEO "5년 내 AGI 달성될 것"
2023년 뉴욕타임스 딜북 서밋에서 엔비디아의 젠슨 황 CEO는 5년 안에 범용인공지능(AGI)이 등장할 것이라고 예측했다. 그는 AGI를 일반인 수준의 테스트를 통과하는 시스템으로 정의하며, H-100 칩 설계에도 이미 AI가 필수적이지만 여전히 다단계 추론에는 한계가 있다고 덧붙였다.
엔비디아, 신약 개발 생성형 AI '바이오네모' AWS 출시
엔비디아는 AWS re:Invent에서 신약 개발 생성형 AI 플랫폼 '바이오네모(BioNeMo)'를 AWS에 출시했다고 발표했다. 연구팀은 아마존 세이지메이커 등을 통해 512개의 H100 GPU 환경에서 단백질 모델 학습 기간을 한 달에서 며칠 수준으로 줄일 수 있다. 바이오 기업이 자체 데이터를 활용해 클라우드에서 생물학 파운데이션 모델을 직접 구축하도록 돕는다.