Anthropic 지원 연구진, 단순 데이터 피팅 넘어선 AI 과학 모델링 제시

1951년 케임브리지 대학교의 컴퓨터가 6개월 동안 고장 났다. 생리학자 앤드루 헉슬리는 오징어 신경 세포의 활동 전위를 설명하는 방정식을 풀기 위해 3주 넘게 수동식 계산기를 손으로 직접 돌려야 했다.

당시 앨런 호지킨과 헉슬리는 측정 데이터 곡선을 맞추기 위해 특정 변수를 4제곱했다. 왜 그래야 하는지는 알지 못했지만 그렇게 하지 않으면 데이터가 맞지 않았다. 수십 년이 지난 뒤 과학자들이 칼륨 이온 통로의 구조를 규명했을 때, 실제로 중심 통로 주변에 4개의 동일한 분자 구조가 배치되어 있다는 사실이 밝혀졌다.

오늘날의 AI라면 그런 곡선을 맞추는 방정식쯤은 단 몇 시간 만에 찾아낼 수 있을 것이다. 하지만 11월 6일, Anthropic의 'AI for Science' 연구 지원을 받는 튀빙겐 대학교 및 ELLIS 연구소의 야콥 마케, 다니엘 게돈, 슈테판 발 연구진은 단순히 데이터를 피팅하는 AI는 진정한 과학적 통찰을 제공하지 못한다고 지적했다.

저녁 식사 영수증과 시뮬레이션 기반 추론

과학 모델링은 크게 세 단계로 나뉜다. 모델의 구조를 짜고, 데이터를 바탕으로 매개변수를 조정하며, 그 결과가 현실계에 무엇을 의미하는지 해석하는 과정이다.

연구진은 매개변수 제약의 난점을 단체 저녁 식사 영수증에 비유했다. 총금액이 120달러라는 사실만 알 뿐 누가 무엇을 먹었는지 모른다면, 모두가 무난한 버거를 먹었을 수도 있고 한 사람이 스테이크를 먹고 나머지는 수프만 마셨을 수도 있다. 신경 세포 모델 역시 마찬가지여서, 전혀 다른 매개변수 조합이 거의 동일한 전기적 신호를 만들어내곤 한다.

AI가 단 하나의 최적 값만 제시한다면 다른 유효한 가능성들을 전부 숨겨버리는 셈이다. 복잡한 시스템에서는 전통적인 통계 계산이 불가능한 경우가 많다. 연구진은 이를 해결하기 위해 '시뮬레이션 기반 추론(SBI)'을 제시했다. 모델을 수십만 번에서 수백만 번 시뮬레이션한 뒤 신경망을 학습시켜, 관측 데이터가 주어졌을 때 가능한 매개변수들의 확률 분포를 단 몇 초 만에 도출해 내는 방식이다. 이 기법은 이미 중성자별 충돌 위치를 빠르게 특정하는 등 우주물리학에서도 성과를 내고 있다.

LLM 에이전트가 만드는 가설의 분포

더 나아가 연구진은 모델의 기본 방정식을 세우는 첫 단계에도 AI를 도입하고 있다.

최근에는 대형언어모델(LLM) 기반 에이전트에 자연어 설명과 데이터를 주면 모델 코드를 작성하고 시뮬레이션을 돌려가며 방정식을 수정하는 시스템들이 등장했다. 그러나 여기서도 같은 함정이 발생한다. 동일한 데이터에 대해 에이전트를 두 번 실행했을 때 완전히 다른 두 개의 모델이 나올 수 있기 때문이다.

따라서 연구진은 모델 생성 단계에서도 단일 모델이 아닌 '타당한 모델들의 분포'를 찾아야 한다고 역설했다. AI가 다양한 후보 모델을 제안하고, 데이터 적합도와 간결성을 따져 불필요한 모델을 탈락시킨 뒤 살아남은 모델들이 공유하는 공통 메커니즘을 추려내는 방식이다.

왜 중요한가

연구자와 엔지니어 입장에서 이 같은 접근법은 AI를 단순한 블랙박스 예측기에서 가설 탐색 파트너로 전환해 준다. 결과 곡선만 그럴듯하게 맞추는 모델은 실제 메커니즘을 밝혀내지 못하지만, 매개변수와 모델의 분포를 함께 제시하는 도구는 과학자가 다음에 어떤 실험을 진행해야 할지 명확한 길잡이를 제공한다.

업계 전반으로 보면 AI for Science의 초점이 단순 구조 예측에서 벗어나 해석 가능한 메커니즘 규명으로 확장되고 있음을 보여준다. Anthropic이 이 연구를 지원하는 것 역시 LLM을 단순한 코딩 보조 도구를 넘어 엄밀한 과학 추론 엔진으로 활용하려는 흐름과 맞닿아 있다.

우리는 튀빙겐 연구진의 문제의식이 매우 정확하다고 판단한다. 컴퓨터의 목적은 숫자가 아니라 통찰이라는 오랜 격언처럼, 블랙박스 속에서 정답만 내놓는 AI는 과학의 본질과 거리가 멀다. 다만 수백만 회의 시뮬레이션과 LLM 에이전트를 반복 실행하는 데 드는 막대한 연산 비용을 어떻게 낮춰 일반 연구 현장에 보급할 것인지는 앞으로 해결해야 할 현실적인 과제다.