인텔 가우디 3 공개: 엔비디아 H100 대비 최대 1.7배 빠르다 주장
인텔이 Vision 2024 행사에서 엔터프라이즈용 AI 칩 '가우디 3'를 발표했다. TSMC 5nm 공정과 128GB HBM2e를 탑재해 라마(LLaMA) 등 주요 LLM에서 엔비디아 H100보다 최대 1.7배 빠르고 전력 효율은 2.3배 높다고 주장했다. 공랭식 모델은 3분기, 수랭식은 4분기에 정식 출시된다.
인텔이 Vision 2024 행사에서 엔터프라이즈용 AI 칩 '가우디 3'를 발표했다. TSMC 5nm 공정과 128GB HBM2e를 탑재해 라마(LLaMA) 등 주요 LLM에서 엔비디아 H100보다 최대 1.7배 빠르고 전력 효율은 2.3배 높다고 주장했다. 공랭식 모델은 3분기, 수랭식은 4분기에 정식 출시된다.
인텔에 따르면 마이크로소프트는 코파일럿의 일부 기능을 PC 로컬에서 직접 구동하도록 개발 중이다. 반응 속도와 개인정보 보호를 개선하려는 목적이지만, 차세대 AI PC 기준인 40 TOPS 이상의 NPU가 필요해 현재 시판 중인 PC로는 감당하기 어렵다.
MLCommons가 발표한 최신 MLPerf 추론 벤치마크에서 엔비디아가 H200과 TensorRT-LLM 최적화로 전 부문을 휩쓸었다. 현재 추론 작업은 엔비디아 데이터센터 매출의 약 40%를 차지한다. 인텔은 가우디2와 제온 결과를 제출한 반면 AMD는 이번에도 벤치마크에 참여하지 않았다.
포브스에 따르면 Stable Diffusion을 개발한 핵심 연구원 로빈 롬바흐를 비롯한 3명의 연구진이 Stability AI를 사임했다. 회사는 지속적인 고위직 이탈과 막대한 연산 비용 지출 속에서 심각한 자금난을 겪고 있다.
인텔은 투자사 디지털브릿지의 지원을 받아 엔터프라이즈 생성형 AI 부문을 신설 독립 법인 'Articul8 AI'로 분사했다고 밝혔다. BCG와의 프로젝트에서 출발한 플랫폼으로 온프레미스 및 하이브리드 환경에서 데이터 유출 없이 AI를 구동한다. 인텔은 지분을 유지하며 협력을 이어간다.
외신에 따르면 스테이블 디퓨전 개발사 스태빌리티 AI가 재정난 속에 회사 매각을 추진 중이다. 주요 투자사 코튜는 CEO 에마드 모스타크의 사임을 요구했다. 당시 회사는 월 800만 달러를 지출하며 극심한 적자를 겪고 있었으나, 사측은 매각설을 공식 부인했다.
팻 겔싱어 인텔 CEO는 비용과 지연 시간, 개인정보 문제로 인해 AI가 클라우드에서 엣지로 이동할 것이라고 밝혔다. 인텔은 연내 전용 AI 하드웨어를 탑재한 Meteor Lake PC 칩을 출시하고, 80%가 넘는 x86 PC 점유율을 앞세워 개발사의 온디바이스 AI 채택을 유도할 계획이다.
취리히 대학과 인텔 연구진이 개발한 자율 비행 AI '스위프트'가 FPV 드론 레이싱 경기에서 인간 세계 챔피언 3명을 꺾었다. 자체 센서와 심층 강화학습만으로 실시간 비행하며 인간 최고 랩타임보다 0.5초 앞선 최고 기록을 냈다. 다만 조명 변화 등 훈련 외 환경 변화에 대처하는 능력은 여전히 인간 조종사가 우위에 있다.
엔비디아가 발표한 2분기 실적에서 매출 135억 달러, 순이익 61억 8800만 달러(전년 동기 대비 843% 증가)를 기록했다. 생성형 AI 칩 수요 폭증으로 데이터센터 매출만 103억 2000만 달러에 달했다. 다음 분기 매출 전망도 160억 달러로 제시하며 독주를 이어가고 있다.
마이크로소프트는 엔비디아 H100 GPU 8장을 탑재한 '애저 ND H100 v5' 가상머신을 정식 출시했다. 동시에 애저 오픈AI 서비스 지원 지역을 일본 동부와 영국 남부 등 5개 리전으로 확장했다. FP8 연산 성능을 최대 6배 높인 인프라로 급증하는 기업 AI 수요를 본격 흡수하겠다는 계획이다.
2023년 2분기 실적 발표에서 팻 겔싱어 인텔 CEO는 향후 회사가 만드는 모든 플랫폼과 제품에 AI 기능을 탑재하겠다고 밝혔다. 첫 NPU 탑재 소비자용 칩 '메테오레이크'는 올해 말 출시될 예정이다. 그는 지연 시간과 비용 문제로 인해 모든 AI를 클라우드에 의존할 수는 없으며, 엣지와 클라이언트 중심의 온디바이스 AI 처리가 필수적이라고 강조했다.
공개된 Stable Diffusion 2.0에 3D 깊이 정보를 추론해 이미지를 생성하는 'depth2img' 기능이 추가됐다. MiDaS 모델을 통해 단일 2D 이미지의 3D 형태를 유지하므로, 3D 아티스트가 간단한 그레이박스 모델링만으로 구도 왜곡 없이 다양한 텍스처와 조명 콘셉트를 실험할 수 있다.
머신러닝 엔지니어가 오픈소스 라이브러리 Anomalib을 활용한 산업용 비전 검사 방식을 공유했습니다. 결함 없는 정상 데이터만으로 학습하는 교사-학생 네트워크를 적용해 픽셀 단위로 불량을 감지하며, OpenVINO를 통해 CPU 추론 속도를 약 4배 높여 30.2fps를 기록했습니다.