구글, 양자 오류 잡는 '알파큐비트' 공개: 트랜스포머로 오류율 30% 감축

양자 컴퓨터가 상용화되지 못하는 가장 큰 이유는 큐비트가 터무니없이 예민하기 때문입니다.

약간의 열기나 진동, 심지어 우주 방사선 하나만 스쳐도 큐비트의 양자 상태는 순식간에 깨져버립니다. 이 때문에 과학자들은 여러 개의 물리 큐비트를 묶어 하나의 논리 큐비트를 만들고, 보조 큐비트로 1초에 백만 번씩 정합성 검사를 돌려 오류를 잡아내는 방식을 씁니다. 문제는 이 쏟아지는 검사 데이터 속에서 도대체 어디서 오류가 났는지 정확히 짚어내는 작업이 너무 어렵다는 점이었습니다.

Google DeepMind와 Google Quantum AI가 이 난제를 풀기 위해 손을 잡았습니다. 대규모 언어 모델의 뼈대인 트랜스포머 아키텍처를 양자 오류 정정에 적용한 인공지능 디코더, AlphaQubit을 국제 학술지 네이처에 공개했습니다.

양자 오류를 잡아내는 트랜스포머

기존 오류 정정 디코더는 늘 속도와 정확도 사이에서 딜레마를 겪었습니다. 텐서 네트워크 방식은 매우 정확하지만 계산량이 너무 많아 시스템이 커지면 써먹을 수 없었고, 상관 매칭 방식은 속도는 빠르지만 복잡한 노이즈를 다 잡아내지 못했습니다.

AlphaQubit은 정합성 검사 결과를 입력받아 최종적으로 논리 큐비트에 오류가 생겼는지를 신경망으로 직접 예측합니다.

연구진은 먼저 양자 시뮬레이터로 수억 개의 예제를 만들어 기초를 학습시킨 뒤, Google의 시카모어 양자 프로세서에서 추출한 수천 개의 실제 실험 데이터로 모델을 미세조정했습니다.

49개 물리 큐비트를 사용한 시카모어 실험에서 AlphaQubit은 뛰어난 실력을 보여줬습니다. 계산이 무거운 텐서 네트워크보다 오류를 6퍼센트 덜 냈고, 널리 쓰이던 상관 매칭 알고리즘보다는 오류를 30퍼센트나 줄였습니다. 25회 오류 정정 데이터로만 훈련받았음에도 10만 회에 달하는 가상 장기 테스트까지 안정적으로 소화해 냈습니다.

진단은 완벽하지만 손이 느린 인공지능

하지만 AlphaQubit이 당장 양자 컴퓨터를 완벽하게 구동할 수 있는 것은 아닙니다. 가장 큰 걸림돌은 연산 속도입니다.

초전도 양자 프로세서의 정합성 검사는 1초에 100만 번이나 일어납니다. 양자 정보가 완전히 망가지기 전에 오류를 고치려면 디코더가 마이크로초 단위 이하로 즉각 답을 내놓아야 합니다.

현재의 거대한 신경망 추론 속도로는 초전도 칩의 실시간 오류를 따라잡기가 벅찹니다. 상용 양자 컴퓨터에 필요할 것으로 예상되는 수백만 개 큐비트 규모로 넘어가기 위한 데이터 효율성 문제도 여전히 남아 있습니다.

왜 중요한가

우리는 AlphaQubit이 양자 컴퓨팅 분야의 고질적인 한계를 깨뜨린 영리한 시도라고 평가합니다.

실제 하드웨어에는 미세한 결함이나 간섭 같은 비정형 노이즈가 늘 존재하는데, 사람이 직접 짠 수학적 알고리즘으로는 이를 완벽히 반영하기 어려웠습니다. 트랜스포머 기반의 딥러닝이 실제 물리 칩에서 발생하는 불완전한 노이즈 패턴을 훨씬 더 정밀하게 학습해 낼 수 있음을 입증한 셈입니다.

일반 개발자나 기업 관점에서 지금 당장 이 기술을 직접 써볼 수 있는 단계는 아닙니다. 초전도 하드웨어의 초고속 제어 루프에 신경망을 얹으려면 하드웨어 측면의 기술 발전이 더 필요하므로, 현재는 오프라인 정밀 분석과 하드웨어 설계 검증용으로 활용 가치가 큽니다.

그럼에도 이 연구가 보여주는 그림은 명확합니다. 클래식 슈퍼컴퓨터에서 돌아가는 최신 AI가 미래의 꿈으로 불리던 양자 컴퓨터의 탄생을 앞당기는 핵심 열쇠가 되고 있다는 점입니다.