구글, 제미나이 전용 칩 '프로즌 v2' 개발: 전력 효율 최대 10배 목표

대규모 AI 모델의 구동 효율을 높이기 위해 구글이 극단적인 하드웨어 설계를 시도하고 있습니다. 소프트웨어 최적화에 그치지 않고, 자사 Gemini 모델의 구조 일부를 반도체 실리콘에 아예 영구적으로 새겨 넣는 방식입니다.

디인포메이션에 따르면 알파벳은 2028년 출시를 목표로 '프로즌 v2(Frozen v2)'라는 코드명의 서버 칩을 개발하고 있습니다. 이 칩은 단위 전력당 생성 토큰 수를 기준으로 구글의 기존 TPU 대비 6배에서 10배 높은 전력 효율을 달성할 수 있는 것으로 전해졌습니다.

모델 구조를 실리콘에 박제하다

'Frozen'이라는 이름처럼, 이 칩은 Gemini 아키텍처의 일부를 칩 내부에 물리적으로 고정시키는 구조를 취합니다.

이런 설계를 통해 칩은 추론 과정에서 불필요한 연산 판단 단계를 건너뛰고 내부 데이터 이동량을 크게 줄일 수 있습니다. 범용성을 일부 포기하는 대신 전용 효율을 극한으로 끌어올리는 셈입니다.

구글은 테크크런치에 보낸 답변에서 해당 프로젝트의 존재를 명확히 인정하거나 부인하지 않았습니다. 다만 모든 프로젝트가 양산으로 이어지는 것은 아니지만, 하드웨어와 소프트웨어를 밑바닥부터 함께 설계하는 풀스택 접근 방식이 실제 워크로드 최적화의 핵심이라고 설명했습니다.

서버 부족과 막대한 투자 압박

구글이 이처럼 파격적인 칩을 준비하는 배경에는 심각한 연산 자원 부족이 있습니다. 보도에 따르면 구글 클라우드는 AI 인프라 부족으로 인해 일부 신규 고객을 돌려보내야 했을 정도입니다.

동시에 막대한 AI 설비 투자에 대한 투자자들의 불안을 잠재워야 하는 과제도 안고 있습니다. 구글은 올해 1800억 달러에서 1900억 달러에 달하는 대규모 지출 계획을 밝힌 바 있습니다. 고효율 칩 개발 소식이 전해지자 월요일 오전 알파벳 주가는 약 3% 상승했습니다.

빅테크의 엔비디아 의존도 줄이기는 가속화되고 있습니다. 지난 6월 OpenAI는 첫 자체 추론 칩인 '할라피뇨(Jalapeño)'를 공개했고, 최근 앤스로픽도 삼성전자와 칩 제조 협력을 논의 중인 것으로 알려졌습니다.

왜 중요한가

우리는 구글의 이번 시도가 매력적인 효율성을 노린 동시에 상당한 위험을 감수한 베팅이라고 봅니다.

전력당 효율이 6배에서 10배 개선된다면, Gemini 서비스를 대규모로 제공하는 데 드는 단위 원가를 획기적으로 낮출 수 있습니다. 데이터센터 전력 공급 부족이 심화되는 환경에서 이는 장기적으로 막대한 마진 우위로 이어집니다.

하지만 모델 아키텍처를 하드웨어에 고정하는 방식은 양날의 검입니다. AI 기술의 진화 주기가 매우 빠른 상황에서, 만약 2028년 이전에 트랜스포머를 대체할 새로운 구조가 등장한다면 이 칩들은 출시되자마자 효용이 떨어질 위험이 있습니다. 구글이 자사 Gemini 아키텍처의 장기적인 지속성에 대해 상당한 자신감을 갖고 있는 것으로 보입니다.