메타, 차세대 자체 AI 추론 칩 ‘MTIA’ 공개… 연산 성능 2배 이상 향상

빅테크 기업들이 엔비디아 GPU 확보에 열을 올리는 사이, 메타는 자체 개발한 2세대 AI 반도체를 조용히 데이터센터에 안착시켰습니다.

메타는 차세대 자체 AI 추론 칩인 MTIA의 상세 스펙을 공개했습니다. 페이스북과 인스타그램의 피드 추천 및 광고 랭킹 알고리즘에 특화된 가속기로, 이미 전 세계 16개 지역 데이터센터의 실제 서비스 환경에 배포되었습니다.

추천 알고리즘의 병목을 뚫는 메모리와 대역폭

대다수 기업이 거대언어모델에 집중하고 있지만, 메타의 주력 수익원이자 가장 많은 연산 자원을 소모하는 것은 매일 수십억 명에게 콘텐츠와 광고를 추천하는 시스템입니다.

이러한 추천 알고리즘은 극단적인 연산 능력보다는 방대한 메모리 대역폭과 낮은 지연 시간이 핵심입니다. 2세대 MTIA는 TSMC 5나노 공정을 적용해 동작 클럭을 기존 800MHz에서 1.35GHz로 끌어올렸으며, 소비 전력도 25W에서 90W로 재설계되었습니다.

성능 향상 폭도 두드러집니다. 조밀 연산 성능은 1세대 대비 3.5배, 추천 시스템에 중요한 희소 연산 성능은 7배 향상되었습니다. 온칩 SRAM은 256MB로 두 배 늘었고 대역폭은 초당 2.7TB에 달하며, 오프칩 LPDDR5 메모리도 128GB로 확장되었습니다.

서버 랙 단위의 시스템 구성도 고도화했습니다. 한 랙에 최대 72개의 가속기를 탑재할 수 있으며, PCIe 5.0 인터페이스와 필요시 추가 확장을 위한 RDMA 네트워킹을 지원합니다.

파이토치 경쟁력으로 9개월 만에 양산 투입

자체 칩 개발에서 가장 큰 장벽은 소프트웨어 생태계지만, 파이토치를 탄생시킨 메타는 이 부분에서 막강한 우위를 점했습니다.

메타는 파이토치 2.0과 직결되는 Triton-MTIA 컴파일러 백엔드를 구축했습니다. 1세대 칩용으로 작성된 코드와 호환성을 유지한 덕분에 엔지니어들은 단 며칠 만에 실제 서비스 트래픽을 신형 칩으로 전환할 수 있었습니다.

첫 실리콘 칩이 나온 뒤 16개 지역 데이터센터에서 실제 모델을 가동하기까지 걸린 시간은 9개월도 채 되지 않았습니다. 내부 4대 핵심 추천 모델 테스트 결과, 칩 자체 성능은 3배, 랙 플랫폼 기준 처리량은 6배 증가했습니다.

왜 중요한가

일반 사용자에게 이 칩이 직접 판매되지는 않지만, 인스타그램 릴스와 페이스북 피드의 추천 정밀도 향상과 지연 시간 단축이라는 형태로 체감하게 됩니다.

산업 전반으로 볼 때, 이번 행보는 엔비디아 의존도를 줄이는 가장 현실적이고 영리한 전략입니다. 모든 영역에서 엔비디아를 대체하려 무리하는 대신, 자사 데이터센터에서 가장 많은 트래픽을 차지하는 추천 추론 업무를 가성비 높은 맞춤형 칩으로 분리해 냈기 때문입니다.

우리는 이러한 분업 구조가 메타의 AI 경쟁력을 크게 높일 것으로 봅니다. 일상적인 서비스 구동에 드는 전력과 인프라 비용을 절감하는 동시에, 확보하기 어려운 엔비디아의 고성능 GPU를 차세대 프론티어 AI 모델 학습에 온전히 몰아줄 수 있는 여유를 확보했기 때문입니다.