MIT, 생성형 AI로 자연계에 없는 단백질 구조 설계하는 ‘FrameDiff’ 공개

자연이 수백만 년 동안 천천히 진화시켜 온 단백질 구조만으로는 급변하는 신종 바이러스나 암세포를 제때 따라잡기 어렵습니다.

MIT CSAIL 연구진이 자연계에 존재하지 않던 완전히 새로운 단백질 구조를 컴퓨터 안에서 만들어내는 생성형 AI 도구인 FrameDiff를 공개했습니다.

MIT 박사과정생 제이슨 임(Jason Yim)이 제1저자로 참여한 이번 연구는 오는 7월 국제머신러닝콘퍼런스(ICML)에서 발표될 예정입니다.

단백질 골격을 강체 프레임으로 다루다

새로운 단백질을 설계하려면 먼저 분자의 3차원 모양을 결정하는 중심 뼈대, 즉 주쇄(backbone)를 만들어야 합니다.

연구진은 주쇄를 이루는 3개 원자 묶음이 일정한 기하학적 결합 패턴을 공유한다는 사실에 주목했습니다. 이를 미분기하학과 확률론을 결합해 3차원 위치와 회전각을 지닌 강체, 즉 '프레임(frame)'으로 모델링했습니다.

여기에 미드저니 같은 이미지 생성 AI에 쓰이는 확산 모델(diffusion model) 방식을 적용했습니다. 리만 다양체 위의 확률 미적분학 기법을 활용한 'SE(3) 확산' 알고리즘을 구축해 구조를 무작위 노이즈로 흩뜨려 놓은 뒤, AI가 프레임을 회전하고 이동시켜 원래 형태로 복원하도록 학습시켰습니다.

기존 단백질을 조립하는 방식을 깨우친 알고리즘은 이제 기존 자연계 템플릿에 얽매이지 않고 완전히 새로운 3D 뼈대를 창작해 냅니다.

기존 예측 모델이라는 목발을 벗어던지다

2021년 딥마인드의 알파폴드2가 널리 알린 분야는 단백질 서열을 보고 3D 구조를 알아맞히는 '예측'이었습니다. 하지만 신약을 만들려면 예측뿐 아니라 새로운 구조를 무에서 만들어내는 '생성' 능력이 필수적입니다.

사실 MIT 팀의 SE(3) 확산 기술은 이미 워싱턴대학교 단백질디자인연구소와 협력해 로제타폴드2와 결합한 'RFdiffusion'이라는 강력한 도구로 입증된 바 있습니다.

하지만 이번 FrameDiff는 한 걸음 더 나아가 기존 구조 예측 모델이라는 토대 자체를 완전히 걷어냈습니다.

하버드대 계산생물학자 세르게이 오브치니코프(Sergey Ovchinnikov)는 사전 훈련된 구조 예측 모델을 배제함으로써 길이가 매우 긴 대형 단백질 구조도 빠른 속도로 생성할 수 있는 가능성을 열었다고 평가했습니다.

연구진은 앞으로 학습 데이터를 늘려 FrameDiff의 성능을 끌어올리는 동시에, DNA와 저분자 화합물 등 다른 생물학적 영역으로 모델을 확장할 계획입니다.

왜 중요한가

표적에 정확히 달라붙는 바인더 단백질을 발굴하는 일은 신약 개발과 바이오센서 제작의 핵심이지만, 자연계 후보군을 뒤지는 방식은 늘 막대한 시간과 비용이 들었습니다. FrameDiff 같은 도구가 고도화되면 원하는 표적에 맞춘 항체나 유전자 치료용 나노입자를 소프트웨어로 맞춤 설계하는 시대가 가까워집니다.

물론 지금 당장 누구나 가져다 쓸 수 있는 완성형 솔루션은 아닙니다. 구조 생성 단계의 기초 연구인 만큼, AI가 가상에서 만든 긴 단백질 사슬이 실제 실험실 환경에서 의도대로 접히고 독성 없이 기능할지는 별도의 검증을 거쳐야 합니다.

우리는 FrameDiff가 무거운 예측 모델을 걷어내는 '단순화'를 택했다는 점에 주목해야 한다고 봅니다. 기존 RFdiffusion이 예측 모델을 품고 있어 안정적이지만 시스템이 무거웠다면, FrameDiff는 기하학적 확산만으로 뼈대를 직조할 수 있음을 증명했습니다.

사전 훈련 모델의 한계에서 벗어남으로써 de novo(바닥부터 설계하는) 단백질 합성의 계산 비용과 길이 제한을 크게 낮출 것으로 보입니다. 신약 개발의 패러다임이 자연물의 탐색에서 인공물의 자유로운 생성으로 확실히 넘어가고 있습니다.