구글 딥마인드, 제미나 딥씽크 성과 공개: 수학 논문 자율 작성부터 10년 묵은 추측 반박까지

경시대회 문제를 잘 푸는 것과 학계의 최전선에서 새로운 이론을 발견하는 것은 완전히 다른 차원의 문제입니다. 기존 학술 데이터가 극히 적은 고등 연구 분야에서는 AI가 얕은 지식을 바탕으로 그럴듯한 거짓말을 지어내기 십상이기 때문입니다.

Google DeepMind는 이러한 한계를 넘기 위해 Gemini Deep Think 모드를 활용한 연구 성과를 담은 논문 두 편을 공개했습니다. 이 프로젝트의 중심에는 내부 코드명 '알레테이아(Aletheia)'로 불리는 수학 연구 에이전트가 있습니다.

'풀 수 없다'고 시인하는 AI

알레테이아는 자연어 검증기를 탑재하여 자신이 제시한 풀이의 결함을 스스로 찾아내고 수정하는 반복 추론을 수행합니다. 특히 연구 효율을 크게 끌어올린 핵심 기능은 모델이 문제를 '풀 수 없다'고 솔직하게 인정하는 메커니즘입니다. 인간 연구자가 모델의 헛발질을 검증하느라 시간을 낭비하지 않게 만든 셈입니다.

구글 검색을 연동해 가짜 인용을 차단한 이 에이전트는 박사급 연습 문제 벤치마크에서도 추론 연산량이 늘어날수록 성능이 향상되는 법칙을 증명했습니다.

실제 성과도 구체적입니다. 산술 기하학의 고유 가중치 구조 상수를 계산하는 논문은 인간의 개입 없이 AI가 전적으로 작성해 냈습니다. 또한 유명한 에르되시 추측 데이터베이스의 미해결 난제 700개를 분석해 그중 4개의 열린 문제를 모델이 독자적으로 해결했습니다.

10년 묵은 추측을 반례 하나로 뒤엎다

연구진은 물리학과 컴퓨터 과학 분야의 18개 난제에도 Gemini를 투입했습니다. 연구자가 AI와 함께 직관을 검증하며 증명을 다듬는 일명 '바이브 프루빙(Vibe-Proving)' 기법과, 확증 편향을 막기 위해 증명과 반박을 동시에 요구하는 프롬프트 기술이 적용되었습니다.

여기서 Gemini는 이질적인 학문 분야를 엮어내는 남다른 능력을 보여주었습니다. 고차원 점들을 잇는 슈타이너 트리 같은 이산 알고리즘 문제에서 벽에 부딪히자, 연속 수학의 측도론과 키르슈브라운 정리를 끌고 와 돌파구를 열었습니다.

온라인 서브모듈러 최적화 분야에서는 지난 2015년 이후 수많은 학자들이 증명하려 애썼던 직관적인 명제를 정교한 3개짜리 반례를 설계해 단숨에 무너뜨렸습니다. 우주 끈 이론의 특이점 적분 문제에서는 게겐바우어 다항식을 활용해 무한급수를 유한합으로 닫힌 해로 정리하기도 했습니다. 이들 연구 중 절반가량은 정상급 학회 제출을 목표로 하고 있으며, 이미 ICLR 2026에 채택된 성과도 포함되어 있습니다.

왜 중요한가

이론 연구자들에게 이번 성과는 AI가 단순한 코딩 보조 도구를 넘어, 머리를 맞대고 가설을 검증할 수 있는 '가상 박사후연구원'으로 진화했음을 보여줍니다. 특히 내가 속한 세부 전공 밖의 수학적 도구를 가져와 막힌 증명을 뚫어주거나 수년간의 착각을 반례로 깨주는 능력은 지금 당장 연구 워크플로에 도입해 볼 만한 가치가 있습니다.

우리가 보기에 DeepMind의 이번 접근은 매우 영리합니다. 인공일반지능이 과학을 정복했다고 과장하는 대신, 수학계와 협의해 기여도 분류 체계를 만들고 자신들의 성과를 '논문 출판 가능 수준(레벨 2)'으로 담담하게 규정했습니다. 획기적 돌파구(레벨 3~4)를 성급하게 주장하지 않는 신중함 덕분에 보수적인 학계의 신뢰를 얻고 있습니다.

다만 인간 동료 심사(Peer Review)의 병목 현상은 뚜렷한 불안 요소입니다. AI가 쏟아내는 수십 쪽 분량의 고난도 증명을 검증하는 데는 막대한 인간 석학들의 시간이 들어갑니다. 기계가 정교한 증명을 찍어내는 속도를 인간 학계의 검증 역량이 따라갈 수 있을지가 향후 학술 생태계의 진짜 시험대가 될 것으로 보입니다.