OpenAI 미공개 AI, 수학·물리학 난제 해결…ETH 가설 반박 및 밀레니엄 문제 전진

몇 주 전 수백 편의 수학 논문을 한꺼번에 쏟아냈을 때만 해도 학계 일각에서는 AI가 양으로 밀어붙이는 것 아니냐는 냉소가 있었습니다. 그러나 10월 26일, OpenAI가 발표한 세 가지 성과는 현대 과학의 이론적 기반을 직접 겨냥했습니다.

OpenAI는 아직 공개되지 않은 내부 모델이 컴퓨터 과학, 수학, 이론물리학의 난제를 해결했다고 밝혔습니다. 핵심적인 증명 과정이 수학 증명 검증기인 린(Lean)을 통해 기계적으로 형식 검증을 마쳤다는 점이 결정적입니다.

컴퓨터 과학의 30년 정설, ETH 가설을 뒤집다

가장 큰 파장을 일으킨 것은 계산 복잡도 이론 분야입니다. OpenAI는 컴퓨터 과학계에서 정설로 통했던 '지수 시간 가설(ETH)'을 자사 AI가 반박했다고 밝혔습니다.

SAT(충족 가능성 문제)는 변수가 늘어날 때마다 계산 복잡도가 기하급수적으로 폭증한다는 것이 오랜 믿음이었습니다. 수백 편의 이론 알고리즘 논문이 이 ETH를 기저에 깔고 작성되었습니다.

하지만 AI는 대수적 변환과 그룹 압축을 활용하여 고정 너비 CNF 공식을 준지수 시간 내에 정확히 계산하는 결정론적 알고리즘을 발견했습니다. 즉, 가설이 거짓임을 수학적으로 입증한 것입니다.

OpenAI는 이 검증을 위해 1999년 ETH 가설을 처음 제안했던 러셀 임팔리아초와 라마모한 파투리, 그리고 MIT의 라이언 윌리엄스를 검증 리더로 섭외했습니다. 관련 논문과 Lean 검증 코드는 GitHub에 즉시 공개되었습니다.

35년 된 파동 예측부터 밀레니엄 난제까지

수학 분야에서는 파동의 집중 현상을 설명하는 35년 된 난제인 '국소 평활화 추측'을 모든 차원에 걸쳐 증명해 냈습니다. 새로운 보조 편미분 방정식을 도입해 카케야(Kakeya) 추측 등 연관된 주요 문제들까지 일거에 해결했습니다.

이론물리학에서는 양자색역학(QCD)과 순수 양-밀스 이론을 포함해, 4차원 상호작용 양자장론의 수학적 엄밀한 존재성을 증명했습니다.

이는 클레이 수학연구소의 100만 달러 밀레니엄 난제 중 하나인 양-밀스 문제의 존재성 부분을 해결한 것입니다. 다만 OpenAI는 두 번째 과제인 '질량 간극(mass gap)'은 아직 풀지 못했다고 명확히 선을 그었습니다. 이 연구는 2004년 노벨 물리학상 수상자인 데이비드 그로스가 이끄는 팀이 검증을 맡았습니다.

왜 중요한가

우리는 이번 발표가 AI가 단순한 코딩 보조나 논문 요약 도구를 넘어, 기존 교과서의 공리를 깨뜨리는 엄밀한 과학 연구의 주역으로 진입했음을 보여준다고 평가합니다. 기존 데이터의 모방만으로는 30년간 굳어진 핵심 가설을 논리적으로 반박할 수 없기 때문입니다.

특히 Lean을 통한 컴퓨터 형식 검증을 도입한 것은 매우 현명한 선택이었습니다. AI 특유의 그럴듯한 거짓말(환각)을 수학적 코드 검증으로 걸러냄으로써 학계의 오랜 검증 부담을 획기적으로 줄였습니다.

하지만 특정 석학들을 지정해 먼저 결과를 검토하게 한 폐쇄적 방식은 논란을 남겼습니다. 자문 기구 AGMAI가 지적했듯, 이는 특정인에게 학술적 특권을 주고 정보 비대칭을 유발할 위험이 큽니다. 모든 데이터를 즉시 공개 논문 저장소에 올려 집단 지성으로 검증받는 것이 과학의 본래 취지에 부합합니다.

만약 ETH 가설 반박이 최종 검증된다면 계산 복잡도 이론의 상당 부분이 전면 재작성되어야 합니다. AI가 기초 과학 연구를 가속하는 속도가 인간의 상상보다 훨씬 빠르다는 사실이 입증되고 있습니다.