GPT-4 학습에 막대한 물 소비…MS 데이터센터 사용량 34% 급증

화면에 프롬프트 한 줄을 입력하면 ChatGPT는 몇 초 만에 매끄러운 답변을 내놓습니다. 대다수는 이 과정에서 그래픽 카드가 전기를 조금 더 쓰는 정도로 생각하지만, 화면 뒤에서는 엄청난 양의 물이 증발하고 있었습니다.

AP통신이 9월 9일 보도한 바에 따르면, OpenAI의 주력 대규모 언어 모델인 GPT-4는 실리콘밸리가 아니라 미국 아이오와주 웨스트디모인의 옥수수밭 옆 데이터센터에서 지역 강물을 대거 끌어다 쓰며 학습되었습니다.

옥수수밭 옆의 거대한 냉각탑

대규모 언어 모델 학습에는 막대한 연산이 필요하며, 수만 개의 칩이 뿜어내는 열기는 상상을 초월합니다. 서버 과열을 막기 위해 데이터센터는 대형 냉각탑으로 물을 순환시키며 열을 식힙니다.

마이크로소프트는 2019년 OpenAI에 10억 달러를 투자한 뒤 전용 슈퍼컴퓨터를 구축했습니다. 2020년에 공개된 스펙만 해도 28만 5천 개 이상의 CPU 코어와 1만 개의 GPU로 구성된 단일 시스템이었습니다. 이 거대한 연산 설비가 들어선 곳이 바로 아이오와였습니다.

아이오와는 대체로 기온이 서늘해 평소에는 바깥 공기만으로도 열을 식힐 수 있습니다. 마이크로소프트 역시 외부 온도가 섭씨 29.3도를 넘을 때만 물을 끌어쓴다고 밝혔습니다. 하지만 여름철 폭염에는 사정이 달라집니다. GPT-4 학습이 끝나기 직전인 2022년 7월 한 달 동안 마이크로소프트가 이 지역 데이터센터에서 사용한 물은 약 1,150만 갤런에 달했습니다. 이는 해당 지역 전체 용수 공급량의 약 6%에 해당하는 규모로, 주민들의 식수원과 겹치는 자원이었습니다.

질문 몇 번에 물 한 병

물 소비는 모델을 훈련할 때만 일어나는 것이 아닙니다. 일상적인 대화에서도 물은 계속 쓰입니다.

캘리포니아대 리버사이드 캠퍼스의 샤오레이 런 연구팀에 따르면, ChatGPT에 5회에서 50회 정도 질문을 던질 때마다 약 500ml(16온스 생수 한 병 분량)의 물이 소비되는 것으로 추산됩니다. 여기에는 데이터센터 냉각수뿐 아니라 전력을 공급하는 발전소에서 쓰이는 간접 냉각수까지 포함되어 있습니다.

실제 수치도 이를 증명합니다. 마이크로소프트의 환경 보고서에 따르면 2021년부터 2022년 사이 글로벌 용수 사용량은 34% 급증해 약 17억 갤런(올림픽 규격 수영장 2,500개 이상)에 달했습니다. 구글 역시 같은 기간 용수량이 20% 늘어났습니다. 마이크로소프트는 2030년까지 물 환원(Water Positive) 목표를 달성하겠다고 밝혔고 OpenAI도 효율화에 힘쓰겠다고 답했지만, 현지 수도 당국은 피크 타임 용수 사용량을 획기적으로 줄이지 못하면 추가 데이터센터 증설을 불허하겠다는 입장을 내놨습니다.

왜 중요한가

이번 보도는 눈에 보이지 않던 생성형 AI의 물리적 한계를 정면으로 보여줍니다. 거대 AI 인프라는 결코 가상 세계에만 머무르지 않으며, 지역 사회의 필수 자원과 직접 충돌하기 시작했습니다.

이용자와 개발자 입장에서는 토큰 단가뿐 아니라 환경적 비용이라는 새로운 변수를 마주하게 되었습니다. 모든 작업에 거대 모델을 쓸 것이 아니라, 특정 작업에는 전력과 냉각 부담이 적은 경량화 모델을 채택해야 한다는 목소리가 커질 것입니다.

업계 전체로 보면 데이터센터의 부지 선정과 냉각 설계가 핵심 경쟁력으로 떠올랐습니다. 마이크로소프트가 애리조나 같은 사막 대신 서늘한 아이오와를 택한 것은 분명 현실적인 판단이었지만, 여름철 피크 용수 문제는 여전히 해결되지 않았습니다. 지역 식수원을 위협하는 시설은 언제든 지자체의 규제 장벽에 부딪힐 수밖에 없습니다. 앞으로의 AI 패권은 칩을 몇 개 더 확보하느냐를 넘어, 열과 물을 얼마나 정교하게 통제하느냐에 달려 있습니다.