PSI, 미공개 앤트로픽 모델로 양자 컴퓨팅 18년 난제 증명

양자 컴퓨터가 등장하면 세상의 모든 복잡한 계산이 마법처럼 순식간에 풀릴 것이라는 막연한 환상에 AI가 명확한 브레이크를 걸었습니다.

Physical Superintelligence(PSI)는 미공개 앤트로픽 모델을 탑재한 자체 연구 시스템을 통해, 지난 18년 동안 양자 컴퓨팅 분야의 대표적 미해결 과제였던 '아론슨-암바이니스 추측(Aaronson-Ambainis conjecture)'을 완전 증명했다고 밝혔습니다. 시스템을 가동한 지 단 3일 만에 완전한 증명을 찾아냈고, 엄격한 정리 증명 도구인 린(Lean)을 통해 컴퓨터 수준의 검증까지 완벽하게 마쳤습니다.

2008년 스콧 아론슨과 안드리스 암바이니스가 제시한 이 가설은 이제 온전한 수학적 정리가 되었습니다.

무작위 데이터에서는 양자 우위가 없다는 증명

이번 증명이 왜 중요한지 이해하려면 양자 컴퓨터가 왜 빠른지부터 짚어봐야 합니다.

1994년 쇼어 알고리즘은 소인수분해 문제에서 기존 컴퓨터와는 비교도 안 되는 지수적 가속을 보여주었습니다. 하지만 이는 문제 이면에 주기성이라는 특정한 규칙과 구조가 숨어 있었기 때문에 가능한 일이었습니다.

그렇다면 규칙이 전혀 없는 무작위 데이터 앞에서도 양자 컴퓨터가 지수적 속도 우위를 유지할 수 있을까요? 학계는 지난 20년 가까이 이 질문에 대해 명확한 수학적 결론을 내리지 못하고 있었습니다.

아론슨과 암바이니스는 다항식의 성질을 이용해, 만약 자신들의 추측이 참이라면 일반 컴퓨터도 극히 일부의 비트만 확인해 양자 컴퓨터의 결과를 충분히 모사할 수 있음을 보였습니다. 즉, 무작위 데이터에서는 지수적 가속이 불가능하다는 뜻입니다.

지난 8월 스탠퍼드대 연구진이 특수한 경우에 한해 부분적인 증명을 내놓았지만, 이번 PSI 연구진은 추측 전체를 완벽하게 증명해 냈습니다. 스탠퍼드대 연구진 역시 전체 증명을 검토한 뒤 여러 수학적 기법이 마법처럼 결합된 거대한 성과라고 평가했습니다.

베일 속의 모델과 3일 만의 쾌거

이번 프로젝트는 PSI의 기술 멤버인 데이비드 투르투레안(David Turturean)이 주도했습니다. 연구 시스템을 구축하고 과제를 설정한 뒤, 모델을 프롬프팅해 논문 초안까지 작성하도록 이끌었습니다.

업계의 시선은 이번 실험에 쓰인 미공개 앤트로픽 모델로 쏠리고 있습니다. 커뮤니티와 일부 외신은 이 모델이 소문으로만 돌던 차세대 'Model 4'일 가능성이 높다고 추측합니다. 최근 제3자 평가 기관 METR은 앤트로픽 내부의 역량 발전 속도가 이전보다 두 배 이상 빨라졌으며, 이 가속의 상당 부분이 AI 자체의 연구 참여 덕분이라는 분석을 내놓기도 했습니다.

모델의 정체가 무엇이든, 사람이 18년 동안 풀지 못한 이론적 난제를 단 사흘 만에 풀어내고 기계적 검증까지 끝냈다는 점은 분명 놀라운 사건입니다.

왜 중요한가

우리는 이번 성과가 양자 컴퓨팅의 거품을 걷어내는 동시에, AI 기반 기초 과학 연구의 새로운 패러다임을 보여주었다고 생각합니다.

양자 컴퓨팅 업계 입장에서 이번 정리는 명확한 현실 인식의 계기가 됩니다. 어떤 문제든 양자 기술만 닿으면 빨라질 것이라는 막연한 기대에 명확한 수학적 한계선을 그어주었기 때문입니다. 데이터에 특정한 수학적 구조가 없다면 양자 컴퓨터도 기존 컴퓨터보다 지수적으로 빠를 수 없습니다. 무의미한 연구에 수많은 자본과 시간을 낭비하는 대신, 진짜 양자 가속이 유효한 영역으로 자원을 집중시킬 수 있게 되었습니다.

AI 연구 관점에서 보면 충격은 더 큽니다. 그동안 거대언어모델은 엄밀한 논리가 필요한 순수 수학 영역에서는 취약하다는 인식이 지배적이었습니다. 하지만 AI가 번뜩이는 수학적 아이디어와 경로를 제시하고, 린(Lean)과 같은 검증기가 논리적 허점을 철저히 틀어막는 방식이 완벽하게 작동함을 입증했습니다.

앞으로 학술 연구와 첨단 기술 개발에서 이 같은 AI-검증기 결합 시스템을 적극적으로 채택하는 연구진과 그렇지 않은 연구진 사이의 연구 속도 격차는 걷잡을 수 없이 벌어질 것으로 보입니다.