AMD, 로컬 AI 툴 'Amuse 2.0' 공개: XDNA 초해상도 탑재, 명령어 없는 간편 생성
AMD가 TensorStack과 협력해 로컬 AI 제품군인 'Amuse 2.0' 베타를 선보였다. 복잡한 명령어나 종속성 설치 없이 단일 실행 파일과 'EZ 모드'로 손쉽게 이미지를 생성할 수 있다. 특히 XDNA 초해상도 기술을 지원해 지원되는 Ryzen 및 Radeon 하드웨어에서 2배 큰 해상도로 이미지를 출력할 수 있다.
AI 컴퓨팅
최신 소식 보기
엔비디아, ‘AI 파운드리’ 공개: TSMC처럼 기업 맞춤형 AI 모델 위탁 제조
엔비디아가 기업용 맞춤형 AI 구축 서비스인 ‘AI 파운드리’의 세부 사항을 공개했다. DGX Cloud와 NeMo 소프트웨어를 통해 Llama 3.1 등 오픈 모델을 기업 맞춤형으로 미세조정하고 NIM 마이크로서비스로 배포할 수 있도록 지원하며, 엔터프라이즈의 독자 AI 도입 장벽을 낮춘다.
The Verge의 AI 전력 소비 분석: 빅테크 탄소 초과와 테크 업계 딜레마
The Verge의 팟캐스트 디코더가 AI 확산이 기후 위기에 미치는 영향을 짚었습니다. 마이크로소프트와 구글 등 빅테크가 데이터센터 확장으로 탄소 배출 목표를 초과하고 있지만, 고전력 소비는 스트리밍과 게임 등 테크 전반의 문제입니다. 핵심은 AI가 쓰는 전력이 그만한 가치가 있는지 따져보는 일입니다.
머스크의 xAI, 액체냉각 H100 10만 장 슈퍼클러스터 가동
일론 머스크는 xAI의 멤피스 슈퍼클러스터에서 차세대 모델 훈련을 시작했다고 밝혔다. 액체냉각 방식의 엔비디아 H100 10만 장을 단일 RDMA 네트워크로 연결했다. 머스크는 12월까지 세계 최강 AI를 선보이겠다는 목표를 세웠으나, 100메가와트 전력 계약은 아직 미체결 상태다.
허깅페이스, 구글 클라우드 TPU v5e 도입: 시간당 1.38달러부터
허깅페이스가 Inference Endpoints와 Spaces에 구글 클라우드 TPU v5e 지원을 추가했다. 시간당 1.375달러부터 시작하며, 오픈소스 Optimum TPU 라이브러리를 통해 Gemma, Llama, Mistral 같은 모델을 클릭 몇 번으로 손쉽게 배포할 수 있다.
세콰이어의 경고: AI 업계, 하드웨어 비용 회수에 연 6000억 달러 필요
세콰이어 캐피털의 데이비드 칸은 AI 인프라 및 GPU 투자 비용을 메우려면 AI 업계가 연간 약 6000억 달러를 벌어야 한다고 분석했다. 빅테크의 매출을 낙관적으로 추산해도 약 5000억 달러의 격차가 남는다. 인프라 지출 속도를 실제 소프트웨어 수익이 따라가지 못하면서 AI 거품론이 커지고 있다.
Etched, 트랜스포머 전용 AI 칩 'Sohu' 공개: H100 대비 20배 성능 주장
스타트업 Etched가 트랜스포머 모델 전용 추론 칩 Sohu를 발표하고 1억 2,000만 달러 투자를 유치했다. 범용 GPU 설계를 버리고 아키텍처를 하드웨어에 고정해 H100 대비 20배 성능을 낸다고 주장한다. 단, 아직 테이프아웃 전이며 다른 모델은 구동할 수 없다.
머스크의 xAI, 슈퍼컴퓨터 서버 랙 공급업체로 델과 슈퍼마이크로 선정
일론 머스크는 xAI가 구축 중인 슈퍼컴퓨터의 서버 랙을 델과 슈퍼마이크로가 공급할 것이라고 밝혔다. 델이 절반을 조립하며 엔비디아와 협력해 차세대 Grok 훈련을 위한 AI 인프라를 구축할 계획이다.
엔비디아 시총 3.34조 달러 돌파: 마이크로소프트 제치고 세계 1위
화요일 엔비디아 주가가 3.6% 오르며 시가총액 3조 3400억 달러를 기록, 마이크로소프트를 제치고 전 세계에서 가장 가치 있는 상장 기업에 올랐다. 데이터센터 AI 칩 시장의 80%가량을 장악하며 주가가 올해만 170% 넘게 뛰었다. 생성형 AI 열풍이 글로벌 빅테크의 지형을 바꾼 셈이다.
사티아 나델라 G7 연설: 인도네시아·케냐 등 AI 인프라에 50억 달러 투자
마이크로소프트의 사티아 나델라 CEO가 G7 정상회의에서 발언했다. 그는 지난 3개월 동안 인도네시아, 말레이시아, 태국, 케냐의 클라우드 및 AI 인프라에 50억 달러를 투자했다고 밝혔다. 아랍에미리트 G42와 협력해 케냐에 신뢰할 수 있는 데이터 영역을 구축하는 등 글로벌 인프라 확장을 가속하고 있다.
오픈AI, 오라클 클라우드로 AI 연산력 확장…추론 인프라 보강
오픈AI와 마이크로소프트가 오라클과 손잡고 OCI 인프라에서 Azure AI 플랫폼을 구동하기로 했다. 급증하는 ChatGPT 추론 수요를 마이크로소프트 단독으로 감당하기 어려워진 결과다. 다만 핵심 프론티어 모델의 사전 학습은 기존처럼 마이크로소프트 슈퍼컴퓨터에서 계속 진행된다.
엔비디아 독점 맞서 뭉쳤다: MS·구글·AMD 등 AI 칩 연결 표준 'UALink' 결성
Intel, Google, Microsoft, Meta, AMD 등 빅테크 기업들이 데이터센터 AI 칩 연결을 위한 새 표준 단체 'UALink'를 설립했다. UALink 1.0은 단일 컴퓨팅 팟에서 최대 1,024개의 AI 가속기를 연결하며, 엔비디아의 독점적 인터커넥트 기술에 맞서는 개방형 생태계를 구축하려는 포석이다.
xAI, 60억 달러 규모 시리즈 B 투자 유치…인프라 구축 속도
xAI는 60억 달러 규모의 시리즈 B 투자를 유치했다고 발표했다. 세콰이어 캐피털과 Andreessen Horowitz 등이 참여했다. 확보한 자금은 초기 제품의 시장 출시와 첨단 인프라 구축, 차세대 기술 연구개발 가속화에 투입될 예정이다.
애플, 차세대 M4 칩 공개：신형 아이패드 프로 탑재 및 AI 처리 가속
애플이 2세대 3나노 공정 기반의 M4 칩을 발표하고 신형 아이패드 프로에 최초 탑재했다. 역대 가장 빠른 뉴럴 엔진을 내장해 현재 출시된 AI PC보다 뛰어난 연산 속도를 내세운다. 하드웨어 가속 레이 트레이싱까지 더해 온디바이스 AI 환경을 한층 끌어올렸다.
구글, 美 데이터센터에 30억 달러 투자…100만 명 대상 AI 무료 교육도 지원
구글이 미국 버지니아와 인디애나의 데이터센터 신설 및 확장에 30억 달러를 투자한다고 발표했다. 또한 자선 부문 Google.org를 통해 7500만 달러 규모의 AI 기회 기금을 조성하고, 100만 명에게 무료 AI 직무 교육을 제공할 계획이다.
MS, 메타 출신 인프라 부사장 영입해 AI 슈퍼컴퓨팅 구축 총괄
마이크로소프트는 메타의 인프라 담당 부사장을 지낸 제이슨 테일러를 부CTO로 영입했다고 밝혔습니다. 테일러는 메타에서 AI 인프라와 서버 예산을 장기간 총괄했던 인물로, 마이크로소프트의 차세대 AI 슈퍼컴퓨팅 시스템 구축을 이끌게 됩니다.
엔비디아, 메타 '라마 3' 전 플랫폼 추론 최적화 지원
엔비디아가 메타의 최신 대규모 언어 모델 '라마 3'를 지원하기 위해 전 플랫폼 추론 최적화를 발표했다. H200 GPU 한 장으로 70B 모델 구동 시 초당 약 3,000토큰을 생성해 300명의 동시 사용자를 처리하며, 8B 모델은 RTX PC와 젯슨 오린 등 엣지 기기까지 지원된다.
인텔, 세계 최대 뉴로모픽 컴퓨터 '할라 포인트' 공개…11억 5천만 개 뉴런 탑재
인텔이 세계 최대 규모의 뉴로모픽 컴퓨터 '할라 포인트'를 공개했다. 1,152개의 로이히 2 칩에 11억 5천만 개의 인공 뉴런을 담아 전자레인지 크기 본체에 구현했다. 인간의 뇌처럼 연산과 저장을 동시에 처리해 최적화 작업 시 전력 효율을 100배 높였다. 다만 소프트웨어 생태계는 아직 초기 단계다.
딥마인드 CEO "구글, 향후 AI에 1000억 달러 이상 투자할 것"
구글 딥마인드의 데미스 허사비스 CEO는 TED 콘퍼런스에서 구글이 장기적으로 AI에 1000억 달러 이상을 투입할 것이라고 밝혔다. 마이크로소프트와 오픈AI의 합작 프로젝트를 겨냥하며 자사 연산력이 경쟁사를 앞선다고 강조했으며, 투자금은 액시온 칩과 데이터센터 인프라에 쓰일 예정이다.
인텔 가우디 3 공개: 엔비디아 H100 대비 최대 1.7배 빠르다 주장
인텔이 Vision 2024 행사에서 엔터프라이즈용 AI 칩 '가우디 3'를 발표했다. TSMC 5nm 공정과 128GB HBM2e를 탑재해 라마(LLaMA) 등 주요 LLM에서 엔비디아 H100보다 최대 1.7배 빠르고 전력 효율은 2.3배 높다고 주장했다. 공랭식 모델은 3분기, 수랭식은 4분기에 정식 출시된다.