메타, 차세대 AI '라마 3' 훈련 돌입…연내 H100 34만 대 확보 선언

그동안 범용인공지능(AGI)이라는 단어에 거리를 두었던 마크 저커버그 메타 CEO가 마침내 출사표를 던졌습니다. 단순한 말뿐만이 아니라 압도적인 컴퓨팅 자원을 전면에 내세웠습니다.

저커버그는 차세대 대형 언어 모델 '라마 3(Llama 3)'의 훈련을 공식 시작했다고 밝혔습니다. 메타의 새로운 목표는 명확히 AGI 개발에 맞춰져 있으며, 고도화된 추론과 계획, 코딩 능력을 강화하는 데 집중하고 있습니다.

H100 34만 대 확보, 압도적인 컴퓨팅 인프라

첨단 모델 개발의 핵심은 결국 연산 능력입니다. 저커버그는 IT 매체 더버지와의 인터뷰에서 2024년 말까지 엔비디아의 H100 GPU를 34만 대 이상 확보할 계획이라고 공개했습니다.

기존 A100과 기타 AI 칩을 모두 합치면 메타의 전체 인프라는 H100 환산 기준 약 60만 대 규모에 달합니다. 외부 조사에 따르면 메타는 2023년 한 해에만 약 15만 대의 H100을 확보해 마이크로소프트와 대등한 수준을 기록했으며, 다른 경쟁사들보다 최소 3배 이상 많았습니다. 저커버그는 전 세계 어떤 단일 기업보다 거대한 인프라를 구축하고 있다고 자신했습니다.

인프라 못지않게 치열한 것이 인재 쟁탈전입니다. 핵심 연구자들의 연봉이 100만 달러(약 13억 원)를 웃도는 상황에서 저커버그는 인재 유출을 막고 핵심 인력을 영입하기 위해 CEO가 직접 미팅에 나서고 있다고 밝혔습니다.

조직 개편도 단행했습니다. 얀 르쿤과 조엘 피노가 이끄는 기초 AI 연구 조직(FAIR)을 하드웨어 부문인 리얼리티 랩스에서 크리스 콕스가 이끄는 앱 패밀리 부문 산하로 옮겼습니다. 첨단 연구 성과를 페이스북, 인스타그램, 왓츠앱 등 수십억 명이 쓰는 실제 서비스에 즉각 연결하겠다는 포석입니다.

라마 2의 교훈을 넘어 업계 최고를 겨냥하다

저커버그는 라마 2 개발 과정에서 얻은 교훈을 라마 3에 적극 반영했다고 설명했습니다.

당시에는 사용자가 왓츠앱에서 코딩 질문을 할 일이 적다는 이유로 코드 생성 능력을 우선순위에 두지 않았습니다. 그러나 연구 결과, 코딩 능력은 모델이 지식의 계층 구조와 엄밀한 논리를 학습하는 데 필수적인 핵심 역량임이 밝혀졌습니다. 이에 따라 라마 3에서는 코딩과 복합 추론 능력을 대폭 끌어올릴 계획입니다.

오픈소스 전략에 대해서도 입을 열었습니다. 저커버그는 초기에는 오픈소스를 표방하다가 점차 폐쇄적으로 돌아서며 이를 '안전'이라는 명분으로 포장하는 오픈AI 등의 행태를 비판했습니다. 다만 미래에 AGI를 달성했을 때 이를 완전히 오픈소스로 공개할지에 대해서는 유보적인 입장을 남겼습니다.

한편 메타버스 사업 철수설에 대해서는 강하게 선을 그었습니다. 리얼리티 랩스에 여전히 연간 150억 달러 이상을 투자하고 있으며, 레이밴 스마트 안경에 AI 비서를 탑재한 것처럼 하드웨어와 AI의 결합을 지속 추진하고 있습니다. 올해 중 누구나 AI 페르소나를 만들어 SNS에 배포할 수 있는 플랫폼도 선보일 예정입니다.

왜 중요한가

이번 발표는 메타가 AI 판도를 뒤흔드는 강력한 '메기' 역할을 자처했음을 분명히 보여줍니다.

개발자와 기업들에게 오픈 가중치 방식의 고성능 모델 등장은 큰 기회입니다. 라마 3가 폐쇄형 상용 모델에 버금가는 성능을 갖춘다면, 비싼 API 비용을 지불하거나 특정 플랫폼에 종속되지 않고도 자체 인프라에서 맞춤형 모델을 구축할 수 있게 됩니다.

산업 전반의 경쟁 구도에서도 빅테크들에 상당한 압박이 됩니다. 메타는 광고가 주 수익원이기 때문에 AI 모델 자체를 유료화해 돈을 벌 필요가 없습니다. 최상위 모델을 무료에 가깝게 개방해 경쟁사들의 수익 모델을 무력화하고, 전 세계 개발 생태계를 메타 플랫폼 중심으로 끌어들이려는 전략은 매우 영리합니다.

그러나 우려되는 지점도 분명합니다. H100 60만 대 수준의 인프라는 막대한 자본력을 가진 거대 기업만이 감당할 수 있어 중소 개발사와의 격차를 더욱 벌려놓습니다. 또한 메타의 지배구조상 최종 결정권이 저커버그 1인에게 집중되어 있는 만큼, 진정한 AGI에 다가섰을 때도 과연 오픈소스 기조를 유지할지는 여전히 의문으로 남습니다.