OpenAI, 미공개 모델로 쓴 수학 논문 722편 공개… 검증에 500만 달러 지원

수학자가 평생을 매달려도 증명하기 어려운 난제들을 AI가 몇 시간 만에 대량으로 풀어내는 장면이 현실화되었습니다.

OpenAI는 10월 6일 공식 깃허브(GitHub)를 통해 아직 외부에 공개되지 않은 내부 프론티어 모델이 작성한 수학 논문 722편을 전격 공개했습니다. 이번 성과는 372개 문제군으로 묶여 있으며, 수론과 기하학, 이론 컴퓨터 과학 등 주요 미해결 난제들을 해결하거나 크게 진전시킨 결과라고 설명했습니다.

가장 눈길을 끄는 대목은 계산 비용입니다. OpenAI는 모델에 약 4000개의 수학 문제를 제시했는데, 거의 모든 결과가 단 한 번의 프롬프트 입력을 통해 도출되었습니다. 결과물 하나당 투입된 연산량은 ChatGPT Pro 기준으로 평균 약 3시간의 추론 시간에 불과했습니다.

준 리만 가설과 Lean을 통한 검증

이번 논문들 중 가장 대담한 성과는 소수의 분포를 다루는 100만 달러짜리 난제, 리만 가설의 완화된 버전인 ‘준 리만 가설’에 대한 증명입니다.

모델은 리만 가설 전체를 풀어내지는 못했지만, 비자명한 영점들이 특정 영역의 가장자리 12.5% 안에는 존재할 수 없다는 점을 증명해 영점이 위치할 수 있는 범위를 25% 좁혀냈습니다. 또한 유리수 해를 허용하는 힐베르트의 10번 문제와 관련해서도 모든 경우를 판별할 수 있는 범용 알고리즘이 존재할 수 없다는 증명을 제시했습니다.

환각에 대한 학계의 우려를 덜기 위해 OpenAI는 컴퓨터가 논리적 증명 단계를 엄밀하게 검증할 수 있는 소프트웨어인 ‘Lean’을 적극 활용했습니다. 전체 논문 중 162편은 핵심 정리가 Lean 코드로 공식화되어 있어, 컴퓨터를 통해 수학적 오류가 없음을 즉시 확인할 수 있습니다.

학계의 탄성과 터져 나온 반발

이번 발표를 바라보는 수학계의 반응은 극과 극으로 갈리고 있습니다.

경쟁사인 앤트로픽(Anthropic) 소속의 최고위 수학자 레벤트 알프오게(Levent Alpöge)는 이번 발표를 두고 “명백히 수학 역사상 가장 중대한 순간”이라고 극찬했습니다.

반면 현장 연구자들 사이에서는 거센 반발도 터져 나왔습니다. 와이어드(WIRED)는 학계 연구자들의 분노를 전하며, OpenAI가 학계가 소화할 수 있도록 발표 일정을 분산하기로 약속해놓고 기습적으로 수백 편을 쏟아냈다는 불만이 팽배하다고 보도했습니다. OpenAI 대변인은 그러한 약속이 있었는지 알지 못했다고 해명했습니다.

논란이 이어지자 OpenAI는 10월 15일 사이먼스 재단(Simons Foundation)의 신규 이니셔티브에 500만 달러를 기부하겠다고 밝혔습니다. 이 자금은 수학자들이 AI 생성 논문을 검토하고 워크숍을 여는 데 전액 사용되며, 관련 연구자들에게는 모델 접근 권한과 컴퓨팅 자원도 제공됩니다.

왜 중요한가

우리는 이번 발표가 기초과학 연구의 패러다임이 인간의 뇌에서 칩의 연산량으로 완전히 전환되는 신호탄이라고 봅니다.

수학 연구자와 개발자에게 주는 실질적 가치는 명확합니다. 이미 162편의 논문이 Lean을 통해 기계적으로 검증된 만큼, 단순한 연구 홍보를 넘어 지금 당장 후속 연구의 뼈대로 삼을 수 있습니다. 앞으로 연구자들의 핵심 역량은 복잡한 식을 일일이 증명하는 노동에서 벗어나, ‘어떤 가치 있는 문제를 AI에 질문할 것인가’와 ‘AI의 계산 결과를 어떻게 확장할 것인가’로 이동하게 될 것입니다.

OpenAI가 기계 검증 코드인 Lean을 함께 공개한 점은 매우 영리한 선택이었습니다. 모델의 환각 시비를 원천 차단하고 학술적 유효성을 단숨에 확보했기 때문입니다.

그러나 수백 편의 논문을 한꺼번에 쏟아내는 방식에는 분명한 부작용이 따릅니다. 아직 Lean 검증을 거치지 않은 나머지 4분의 3 분량의 논문들은 결국 인간 동료 평가자들에게 거대한 검증 부담을 떠넘긴 꼴입니다. AI가 쏟아내는 결과물의 속도를 기존 학계 시스템이 감당하지 못하면서 생기는 구조적 충돌은 앞으로 더 격화될 것으로 보입니다.