구글, 양자컴퓨팅 20년 난제 풀었다: 윌로우 칩으로 오류율 40배 절감

수십억 원을 들여 구축한 슈퍼컴퓨터의 전체 성능 중 95%가 시스템 청소와 부품 정리에만 쓰이고, 정작 본래 계산에는 5%밖에 쓸 수 없다면 누구라도 실용성을 의심할 것이다.

양자컴퓨팅 업계는 지난 20년간 바로 이 답답한 병목에 갇혀 있었다. 10월 15일, 구글 퀀텀 AI는 자사 윌로우(Willow) 프로세서에서 '매직 스테이트 배양(Magic State Cultivation)'을 성공적으로 구현해 학술지 사이언스에 게재했다고 발표했다. 오류율을 기존 대비 약 40배 낮추고, 논리 충실도 99.99%를 기록했다.

컴퓨터의 95%를 집어삼키던 매직 스테이트

기존 컴퓨터의 한계를 뛰어넘는 범용 양자 연산을 실행하려면 반드시 오류가 교정된 특수한 양자 상태, 이른바 '매직 스테이트(Magic State)'를 만들어내야 한다.

문제는 매직 스테이트가 매우 깨지기 쉬운 데다 일회성이어서 한 번 쓰면 사라진다는 점이다. 더욱이 잡음이 심한 하드웨어에서 순도 높은 상태를 정제하려면 천문학적인 자원이 소모된다.

2004년에 이미 예견되었듯, 양자컴퓨터 전체 용량의 최대 95%가 이 매직 스테이트를 만드는 데만 묶일 수 있다는 분석이 지배적이었다. 실제 계산에 투입할 수 있는 자원은 고작 5% 남짓에 불과했던 셈이다.

윌로우 칩에서 불순물을 걸러내다

구글 연구진은 2024년 크레이그 기드니, 노아 셔티, 코디 존스가 제시한 이론적 설계를 윌로우 칩 위에서 완벽히 물리적 실체로 구현해 냈다.

원리는 정밀한 필터와 유사하다. 칩의 특정 소형 영역에 잡음이 섞인 불완전한 상태를 주입한 뒤, 고도로 조율된 연속 측정을 수행해 결함을 잡아내고 실패한 시도를 걸러낸다. 이 과정을 거치며 지극히 순수하고 오류가 적은 양자 상태가 자라나듯 '배양'된다.

실제 하드웨어 적용은 험난했다. 초기 연구를 진행하던 엠마 로젠펠드 연구원은 물리 법칙을 거스르는 듯한 기이한 데이터를 마주했다. 수개월간의 추적 끝에 실험실 장비의 전기적 드리프트와 미세한 온도 변화가 측정 기준을 왜곡하고 있었다는 사실을 밝혀냈다. 연구팀은 제어 시스템을 강화하고 배양 기술 자체를 측정 도구로 삼는 새로운 벤치마크 기법을 고안해 문제를 해결했다.

이와 함께 배양에 유리한 컬러 코드(거리 3)에서 주류인 표면 코드(거리 5)로 상태를 매끄럽게 이식하는 기술까지 물리 칩 위에서 성공적으로 입증했다.

왜 중요한가

우리는 이번 성과가 오류 수정 양자컴퓨팅을 막연한 이론 연구에서 본격적인 하드웨어 엔지니어링 영역으로 끌어올린 결정적 분기점이라고 본다.

지금까지 업계에서는 유의미한 양자컴퓨터를 만들려면 수백만 개의 물리 큐비트가 필요할 것으로 보았는데, 그 하드웨어 비용의 대부분이 바로 매직 스테이트 생성에 할당되어 있었다. 구글이 이를 40배 적은 오류로 압축해 냄으로써, 미래의 상용 양자컴퓨터에 요구되는 칩 크기와 물리적 진입 장벽을 대폭 낮출 수 있는 현실적 경로가 열렸다.

산업 경쟁 측면에서도 초전도 진영의 저력을 보여준 사례다. 이온트랩이나 중성원자 같은 대체 방식이 무섭게 치고 올라오는 상황에서, 구글은 자체 초전도 하드웨어의 미세 소음 제어부터 서로 다른 양자 코드 간 이식까지 완벽한 시스템 통합 역량을 증명했다.

다만 당장 내일 상용 서비스가 열리는 것은 아니다. 이번 성과는 어디까지나 국소적인 개념 증명이며, 향후 수천, 수만 개의 논리 큐비트가 동시에 돌아가는 대규모 환경에서도 이 배양 과정을 잡음 없이 병렬로 확장할 수 있을지가 진정한 시험대가 될 것이다.