AMD, 허깅페이스와 파트너십…CPU·GPU AI 모델 가속 본격화
AMD가 허깅페이스의 하드웨어 파트너 프로그램에 합류했다. 트랜스포머 라이브러리에 AMD ROCm SDK를 통합해 인스팅트 GPU와 라이젠, 에픽 CPU 전반에서 모델 학습과 추론 속도를 최적화한다. 엔비디아 중심의 AI 칩 시장에서 개발자들에게 가성비 높은 새로운 하드웨어 선택지를 제공할 전망이다.
AMD가 허깅페이스의 하드웨어 파트너 프로그램에 합류했다. 트랜스포머 라이브러리에 AMD ROCm SDK를 통합해 인스팅트 GPU와 라이젠, 에픽 CPU 전반에서 모델 학습과 추론 속도를 최적화한다. 엔비디아 중심의 AI 칩 시장에서 개발자들에게 가성비 높은 새로운 하드웨어 선택지를 제공할 전망이다.
엔비디아의 시가총액이 장 초반 일시적으로 1조 달러를 돌파했다. 장 후반 상승분을 일부 반납하며 9900억 달러로 마감했지만, 챗GPT 등 생성형 AI 열풍에 힘입어 반도체 기업 최초로 1조 달러 클럽 문턱을 밟았다. 엔비디아는 2분기 매출을 시장 전망치보다 50% 높은 110억 달러로 전망했다.
엔비디아 주가가 27% 폭등하며 하루 만에 시가총액이 2000억 달러 이상 늘어났다. 월가 예상치인 72억 달러를 크게 웃도는 110억 달러 안팎의 2분기 매출 가이던스가 기폭제가 됐다. 젠슨 황 CEO는 생성형 AI 수요로 인해 전 세계 데이터센터가 가속 컴퓨팅으로 전환되는 10년의 여정이 이제 막 시작됐다고 강조했다.
목요일, 메타가 딥러닝 추천 모델 처리에 특화된 첫 자체 개발 AI 칩 'MTIA'를 공개했다. 파이토치와 유기적으로 맞물려 작동하며 와트당 연산 효율은 GPU 대비 최대 3배에 이른다. 복잡한 신경망 작업에서는 아직 GPU에 밀리지만, 자체 인프라 비중을 높이려는 핵심 행보다.
블룸버그 통신에 따르면 마이크로소프트는 AMD의 GPU가 AI 작업을 더 원활히 처리할 수 있도록 엔지니어링 리소스를 투입해 협력 중이다. 엔비디아가 장악한 하드웨어 시장에 경쟁을 유도해 천문학적인 서버 비용을 낮추려는 전략이다. 다만 마이크로소프트는 자체 개발 칩인 아테나 프로젝트에 AMD가 참여했다는 보도는 전면 부인했다.
마이크로소프트가 엔비디아 의존도를 낮추고 비용을 절감하기 위해 코드명 '아테나(Athena)'라는 자체 AI 칩을 극비리에 개발 중인 것으로 알려졌습니다. 현재 일부 마이크로소프트 및 OpenAI 직원이 GPT-4로 성능을 시험 중이며, 이르면 내년 사내에 본격 도입될 예정입니다.
공개된 네바다주 법인 등록 서류에 따르면, 일론 머스크가 지난 3월 9일 새 인공지능 회사 'X.AI'를 설립하고 이사로 등재된 것으로 확인됐습니다. 머스크는 이미 수천 장의 GPU를 확보하고 테슬라와 스페이스X 투자자들에게 자금을 유치하며 OpenAI에 맞설 생성형 AI 개발에 착수했습니다.
AWS가 생성형 AI 구축을 지원하는 신규 서비스 '아마존 베드록'과 자체 '타이탄' 파운데이션 모델을 공개했다. 개발자는 인프라 관리 없이 API로 클로드나 스테이블 디퓨전 등을 호출하고 사내 데이터로 미세 조정할 수 있다. 현재 제한된 프리뷰로 제공된다.
비즈니스 인사이더에 따르면 일론 머스크가 트위터의 자체 생성형 AI 프로젝트를 위해 데이터센터용 GPU 약 1만 개를 구매했다. 트위터는 최근 딥마인드 출신 연구원 2명을 영입했으며, 보유한 방대한 트윗 데이터를 학습시켜 검색 개선이나 광고 사업 재건에 활용할 계획인 것으로 알려졌다.
유출된 투자 설명서에 따르면 앤트로픽은 오픈AI에 맞서기 위해 향후 2년간 최대 50억 달러 규모의 자금 조달을 추진 중이다. 향후 18개월간 10억 달러를 투입해 현재 가장 강력한 AI보다 10배 뛰어난 성능의 차세대 모델 'Claude-Next'를 구축할 계획이다.
미드저니가 무료 체험을 일시 중단했다. 데이비드 홀츠 CEO는 일회용 계정을 악용한 이미지 생성 급증과 GPU 부족이 겹쳐 유료 이용 환경을 위협했기 때문이라고 설명했다. 논란이 된 정치인 딥페이크 대응 차원의 조치는 아니라고 선을 그었다.
제러미 헌트 영국 재무장관이 기술 부문 지원을 골자로 한 봄 예산안을 발표했다. 10년간 매년 100만 파운드를 수여하는 AI 연구 지원 '맨체스터 프라이즈'를 신설하고, 9억 파운드를 투입해 엑사스케일 슈퍼컴퓨터를 구축한다는 구상이다. 자체 파운데이션 모델 역량을 확보하려는 시도이나, 장기적인 정책 이행 여부는 지켜볼 대목이다.
화요일 John Hopkins University 연구진이 이끄는 국제 연구팀이 학술지 Frontiers를 통해 인간 뇌세포 3D 배양체와 뇌-컴퓨터 인터페이스를 결합한 '오가노이드 지능' 로드맵을 공개했다. 뇌세포 연결망을 활용해 실리콘 컴퓨터의 물리적 한계를 넘는 바이오 컴퓨팅을 구현하겠다는 구상이다.
메타가 70억에서 650억 파라미터 규모의 기초 거대언어모델 LLaMA를 발표했다. 방대한 연산 자원 없이도 연구를 진행할 수 있도록 소형화에 집중했으며, 13B 모델은 1조 개 토큰으로 훈련됐다. 현재는 학술 연구 목적의 비상업적 라이선스로 신청을 받아 제공된다.
퀄컴이 스냅드래곤 8 2세대 칩셋을 탑재한 스마트폰에서 스테이블 디퓨전 1.5를 완전히 로컬로 구동해 512x512 이미지를 15초 이내에 생성하는 데모를 선보였다. 클라우드 없이 기기 자체에서 구동돼 네트워크 연결이 필요 없고 개인정보 보호에 유리하지만, 해당 최적화 패키지는 아직 일반에 공개되지 않았다.
AWS와 허깅페이스가 클라우드 파트너십 확대를 발표했다. 허깅페이스는 AWS를 우선 클라우드로 지정했으며, 개발자는 아마존 세이지메이커에서 클릭 몇 번으로 모델을 배포하고 AWS 자체 칩인 트레이니엄과 인퍼런시아를 사용해 생성형 AI 구축 비용을 절감할 수 있다.
블룸버그에 따르면 월가 투자자들은 ChatGPT 열풍의 최대 수혜주로 엔비디아를 지목하고 있다. 씨티그룹은 급증하는 AI 연산 수요에 힘입어 엔비디아가 향후 12개월간 최대 110억 달러의 매출을 올릴 수 있다고 분석했다. 생성형 AI 확산이 고성능 GPU 수요를 견인하는 반면, 열풍이 꺼질 위험도 함께 경고된다.
오픈AI는 마이크로소프트와의 다년간 파트너십 연장을 발표했다. 이번 수십억 달러 규모의 투자를 통해 애저는 오픈AI의 연구, API, 제품 전반을 지원하는 독점 클라우드 지위를 유지한다. 양사는 슈퍼컴퓨팅 인프라 투자를 늘리고 애저 오픈AI 서비스 등을 통한 기업용 AI 보급을 본격화할 계획이다.
IEEE 스펙트럼에 따르면 UCLA 연구팀이 전자가 아닌 광자를 활용하는 광학 신경망 프로세서를 개발했다. 파장 다중화 기술로 수천 개 파장의 빛을 이용해 행렬 연산을 빛의 속도로 병렬 처리하며, 조명 외에는 전력을 소모하지 않아 차세대 저전력 대안으로 꼽힌다.
마이크로소프트가 기업용 '애저 오픈AI 서비스'를 정식 출시했다. 기업 고객은 엔터프라이즈 보안 환경에서 GPT-3.5, 코덱스, 달리 2 등을 쓸 수 있으며 챗GPT 지원도 예고됐다. 단, 개발자는 사전에 활용 계획을 제출해 승인을 받아야 한다.