바이오허브, 단백질 세계 모델 'ESM' 공개…항체 설계 며칠 만에 끝낸다

ESM은 바이오허브가 오픈소스로 공개한 단백질 생물학 '세계 모델' 제품군으로, 컴퓨터상에서 단백질 3차원 구조 예측부터 결합체 및 단일 사슬 항체 설계까지 한 번에 수행할 수 있는 도구입니다. 기존 습식 실험실에서 수개월씩 걸리던 초기 후보 물질 발굴 과정을 단 며칠간의 컴퓨팅 작업으로 단축해 줍니다.

이 시스템은 3가지 핵심 요소로 이뤄져 있습니다. 약 28억 개의 생물 서열을 사전 학습한 기초 단백질 언어 모델 ESMC, 단백질 구조 예측과 신규 단백질 설계를 담당하는 ESMFold2, 68억 개 서열과 11억 개 예측 구조를 망라한 데이터베이스 ESM Atlas입니다. 모든 모델과 결과물은 연구자들에게 무료로 개방되었습니다.

어떤 원리로 작동하는가

기존 알파폴드처럼 복잡한 다중 서열 정렬(MSA) 데이터에 필수적으로 의존하는 방식과 달리, ESMFold2는 언어 모델인 ESMC가 학습한 생물학적 표현을 기반으로 직접 구조를 도출합니다. 수십억 개의 아미노산 서열 맥락을 학습하면서 단백질 접힘과 상호작용 규칙을 이미 모델 내부에 내재화했기 때문입니다.

아키텍처 측면에서는 '루프형 트랜스포머(looped transformer)'를 도입했습니다. 파라미터 수를 무작정 늘리는 대신 동일한 파라미터 계층에 표현을 여러 차례 반복 통과시키며, 학습 과정 전체에서 역전파를 수행합니다. 루프를 돌 때마다 이전 단계의 계산 결과를 바탕으로 구조적 정밀도를 점진적으로 다듬어 갑니다.

이 구조 덕분에 추론 단계에서 루프 횟수를 늘려 어려운 표적에 더 많은 계산 자원을 할당할 수 있으며, 파라미터 비대화로 인한 한정된 실험 구조 데이터에 대한 과적합 위험도 피할 수 있습니다.

실험 검증 결과와 성능

결합체 설계는 2단계로 진행됩니다. 먼저 ESMFold2 공간을 탐색해 수만 개 이상의 후보 물질을 생성하는 데 약 2일이 걸리고, 모델 신뢰도 점수를 바탕으로 결합력과 안정성을 평가해 순위를 매기는 데 하루가 채 걸리지 않습니다. 경량 버전인 ESMFold2-Fast의 경우 1024개 잔기 길이의 단백질 구조를 9.4초 만에 예측해 하루 수십만 번의 가상 실험을 돌릴 수 있습니다.

바이오허브는 암과 면역학의 핵심 표적인 EGFR, PD-L1, CTLA-4, CD45, PDGFRβ 등 5개 표적을 대상으로 실제 실험실 검증을 거쳤습니다. 소형 미니바인더 설계에서는 36%에서 88%의 적중률을 기록했고, 추론 연산량을 늘렸을 때 평균 성공률이 54%에서 70%까지 상승했습니다. 난도가 높은 단일 사슬 항체(scFv) 형식에서도 적중률 15%~29%를 달성했습니다.

특히 면역관문 표적인 PD-L1을 상대로 컴퓨터가 바닥부터 설계한 scFv는 4.3 nM 수준의 높은 결합 친화도를 나타냈으며, 세포 실험에서 T세포 신호 억제를 풀어내는 치료 효능을 입증했습니다. 폐암 표적인 EGFR의 경우 초저온 전자현미경(cryo-EM) 촬영을 통해 설계된 단백질이 모델의 예측 위치와 원자 단위로 정확히 일치하게 결합한 것을 직접 확인했습니다.

왜 중요한가

알파폴드가 자연에 이미 존재하는 단백질의 구조를 밝혀내는 데 집중했다면, ESM은 자연계에 없던 새로운 항체와 치료용 단백질을 직접 설계해 실제 실험실에서 작동함을 입증해 냈습니다. 초저온 전자현미경으로 촬영된 결합 구조 일치 결과는 모델이 단순한 추측이 아닌 유효한 해법을 만들어냈음을 보여줍니다.

막대한 예산이 드는 물리적 고속 대량 스크리닝 장비를 갖추기 어려운 대학 연구실이나 희귀 질환 연구팀에게 이 도구는 초기 후보 물질 발굴 비용을 획기적으로 낮춰주는 가장 실용적인 선택지입니다.