AWS, 온프레미스 인프라 ‘AWS AI 팩토리’ 공개…고객 전용 데이터센터에 직접 구축

대규모 AI 모델을 다루는 정부 기관이나 글로벌 대기업은 늘 난처한 상황에 놓여 있었습니다. 퍼블릭 클라우드의 강력한 최신 AI 인프라는 탐나지만, 데이터 주권과 규제 탓에 핵심 데이터를 외부 클라우드로 보낼 수는 없었기 때문입니다.

미국 라스베이거스에서 열린 Re:Invent 2025 행사에서 AWS는 이 딜레마를 정면으로 돌파하는 신규 서비스인 ‘AWS AI Factory’를 발표했습니다. 고객의 자체 데이터센터 안에 전용 AI 인프라를 직접 구축해 주는 방식입니다.

고객 데이터센터 안에 세워지는 독립된 AWS 리전

이 서비스는 고객만을 위해 독점 운영되는 프라이빗 AWS 리전처럼 작동합니다. 파운데이션 모델을 비롯한 AWS의 다양한 매니지드 서비스를 그대로 쓰면서도, 모든 데이터의 처리와 저장은 고객의 자체 시설 안에서만 이루어집니다.

구성 요소도 전방위적입니다. AWS 자체 칩인 Trainium은 물론 Nvidia GPU, AWS Nitro 시스템, 페타비트급 EFA 네트워킹과 스토리지까지 통째로 패키징해 제공합니다.

Nvidia와의 협업도 강력합니다. 차세대 Vera Rubin 및 Grace Blackwell 아키텍처를 지원하며, 향후 출시될 Trainium4 칩은 Nvidia의 NVLink Fusion과 호환되도록 설계될 예정입니다. 현장에서는 Trainium3 UltraServer도 함께 공개됐습니다.

검증된 프로젝트와 초대형 정부·국가 단위 수요

이 솔루션은 갑자기 튀어나온 것이 아닙니다. AWS가 앤스로픽을 위해 Trainium2 기반으로 구축했던 대규모 프로젝트인 ‘Project Rainier’를 기반으로 상용화된 모델입니다.

실제 고객 확보도 빠르게 진행되고 있습니다. 사우디아라비아의 휴메인(Humain)은 지난달 AWS와의 협력을 확대해 Nvidia GB300과 Trainium을 포함한 약 15만 개의 AI 칩을 배치하기로 했습니다.

여기에 AWS는 최근 미국 정부를 위한 AI 및 고성능 컴퓨팅(HPC) 인프라 확장에 500억 달러를 투자하겠다는 계획도 내놓았습니다. 철저하게 데이터 주권과 보안이 필수적인 영역을 타깃으로 삼고 있는 셈입니다.

왜 중요한가

공공 기관이나 초대형 금융사 입장에서 자체 시설에 대규모 AI 클러스터를 처음부터 직접 구축하는 일은 하드웨어 조달부터 네트워크 최적화까지 엄청난 비효율을 동반합니다. AWS AI Factory를 도입하면 검증된 클라우드 소프트웨어 스택과 최신 칩셋을 규제 위반 없이 안전하게 내부에 들여놓을 수 있습니다.

물론 전력 설비와 막대한 초기 자본을 감당할 수 있는 극소수 기관만을 위한 상품이며, 일반 스타트업이나 중소기업이 쓸 수 있는 선택지는 아닙니다.

우리는 AWS가 시장 변화를 영리하게 읽어냈다고 봅니다. 모든 것을 퍼블릭 클라우드로 흡수하려던 기존 전략은 각국의 데이터 주권 규제라는 강력한 장벽에 부딪혔습니다. 이를 고집하는 대신, 고객의 문전 앞까지 클라우드 플랫폼을 배달하는 방식을 택한 것입니다.

겉으로는 고객의 온프레미스 인프라를 지켜주는 것처럼 보이지만, 결국 하드웨어와 플랫폼 생태계를 AWS에 완전히 묶어두는 락인 효과를 노린 것으로 보입니다. 클라우드 공룡들의 승부처가 초대형 데이터센터를 넘어 고객의 안방 점령전으로 확장되고 있습니다.