엔비디아, 양자 컴퓨팅 오픈 AI 모델 '아이싱' 공개

엔비디아 아이싱(NVIDIA Ising)은 양자 컴퓨터 구축의 최대 난제로 꼽히는 프로세서 보정과 실시간 양자 오류 수정을 가속하기 위해 설계된 오픈소스 AI 모델 제품군입니다.

현재의 큐비트는 외부 환경에 매우 민감해 쉽게 오류를 일으킵니다. 유의미한 연산을 수행하려면 복잡한 튜닝 과정을 거쳐야 하고 실행 중에도 끊임없이 오류를 잡아내야 하는데, 아이싱은 이 제어 작업을 AI로 자동화합니다.

무엇을 할 수 있는가

아이싱은 크게 보정과 오류 디코딩을 담당하는 두 가지 모델로 나뉩니다.

첫 번째는 아이싱 캘리브레이션(Ising Calibration)입니다. 시각 언어 모델(VLM)을 기반으로 양자 프로세서의 측정 데이터를 실시간으로 판독하고 반응합니다. AI 에이전트를 통해 보정 작업을 지속적으로 자동화함으로써, 기존에 며칠씩 걸리던 튜닝 시간을 몇 시간 수준으로 대폭 줄여줍니다.

두 번째는 아이싱 디코딩(Ising Decoding)입니다. 3D 합성곱 신경망(3D CNN) 구조를 채택했으며, 속도 최적화 버전과 정확도 최적화 버전 두 가지로 제공됩니다. 현재 오픈소스 표준으로 쓰이는 pyMatching과 비교해 디코딩 속도는 최대 2.5배 빠르고 정확도는 3배 높습니다.

실행 방법과 이용 경로

엔비디아는 모델 가중치와 함께 워크플로 쿡북, 훈련 데이터셋, 엔비디아 NIM 마이크로서비스를 함께 제공합니다. 연구진 내부 서버에 로컬로 배포할 수 있어 고유의 물리 실험 데이터를 외부에 노출하지 않고 안전하게 다룰 수 있습니다.

양자-고전 하이브리드 인프라를 구축 중인 곳이라면 CUDA-Q 플랫폼 및 NVQLink 하드웨어 인터커넥트와 직접 연동해 실시간 제어 루프를 구성할 수도 있습니다.

모든 모델과 데이터는 깃허브(GitHub), 허깅페이스(Hugging Face), build.nvidia.com을 통해 즉시 내려받아 각자의 하드웨어 특성에 맞춰 미세 조정할 수 있습니다.

왜 중요한가

양자 하드웨어를 연구하거나 제어 소프트웨어를 개발하는 엔지니어라면 직접 디코더 모델을 밑바닥부터 학습시킬 필요 없이 즉시 파이프라인에 적용해 볼 만한 도구입니다. 기존 알고리즘 대비 성능 향상 폭이 명확해 검증 비용을 크게 아낄 수 있습니다.

엔비디아 입장에서도 영리한 접근입니다. 특정 큐비트 하드웨어를 직접 만드는 대신, 어떤 양자 기술이 승리하든 반드시 통과해야 하는 오류 수정과 제어 영역에 자사 GPU와 AI 소프트웨어 스택을 필수 인프라로 자리 잡게 만들고 있습니다.