브리검 여성병원 연구팀, 수술 중 동결조직을 '골드 스탠다드' 병리 이미지로 복원하는 AI 개발

수술대 위에서 종양을 떼어내는 외과의에게 가장 긴장되는 순간은 칼을 대는 것보다 '어디서 멈출 것인가'를 결정하는 일이다.

종양의 정확한 경계와 악성 여부를 확인하려면 환자가 전신마취 상태로 누워 있는 동안 조직을 떼어내 병리과로 보내야 한다. 하지만 병리학계는 언제나 '속도'와 '화질' 사이의 딜레마에 갇혀 있었다.

가장 확실한 '골드 스탠다드'인 포르말린 고정 파라핀 포매(FFPE) 방식은 고품질의 선명한 조직 이미지를 제공하지만, 표본 제작에만 12시간에서 48시간이 걸린다. 수술 중인 환자가 감당할 수 있는 시간이 아니다.

결국 병원들은 몇 분 만에 표본을 만들어내는 '급속 동결 절편' 검사를 택한다. 빠르긴 하지만 조직이 얼면서 세포가 찌그러지고 인위적인 결함(아티팩트)이 생겨, 아무리 숙련된 병리과 전문의라도 오진 위험이 따르고 까다로운 훈련이 필요했다.

거친 동결 절편을 AI로 가상 복원하다

브리검 여성병원 계산병리학과의 파이살 마흐무드(Faisal Mahmood) 연구팀과 튀르키예 보아지치대 공동 연구진은 국제학술지 '네이처 바이오메디컬 엔지니어링'에 이 문제를 해결할 딥러닝 모델을 발표했다.

연구팀이 개발한 딥러닝 모델은 몇 분 만에 급속 동결해 만든 거친 조직 이미지를 입력받아, 장시간 공을 들여야 나오는 표준 FFPE 수준의 고해상도 이미지로 즉각 변환해 낸다.

실제 테스트에서 연구팀은 교모세포종(신경교종)과 비소세포폐암 등 진단이 까다로운 암의 세부 아형 분류에 이 기술을 적용했다. 병리 전문의들을 대상으로 진행한 블라인드 판독 실험 결과, 기존 동결 절편을 직접 볼 때보다 AI로 변환된 이미지를 판독했을 때 전문의들의 진단 정확도가 일관되게 향상되었다.

또한 알고리즘의 신뢰성을 입증하기 위해 튀르키예에서 독립적으로 수집된 별도 임상 데이터셋으로도 교차 검증을 마쳤다.

왜 중요한가

이 기술이 영리한 이유는 기존 병원의 수술 및 검사 프로토콜을 뒤흔들지 않는다는 점이다.

병원이 수억 원대 특수 하드웨어를 새로 살 필요도 없다. 병리과는 원래 하던 대로 몇 분 만에 급속 냉동 표본을 만들고, 디지털 스캔 과정에 AI 소프트웨어를 얹기만 하면 된다. 중간에서 노이즈를 걷어내고 화질을 복원해 주는 번역기 역할을 맡긴 셈이다.

환자 입장에서는 수술대 위에서 종양 경계를 훨씬 명확하게 파악할 수 있어 불완전 절제로 인한 재발이나 과도한 절제로 인한 신경 손상 위험을 크게 덜 수 있다.

의료 AI의 방향성 측면에서도 모범적이다. AI에게 종양 진단을 직접 내리라는 블랙박스 역할을 맡기는 대신, 전문의가 더 정확하게 판단할 수 있도록 원본 데이터를 정제해 주는 데 집중했다. 규제 당국의 인허가와 의료 현장의 저항을 넘어서기에 훨씬 유리한 설계다.

다만 이미지 변환 딥러닝 특유의 환각(Hallucination) 위험은 경계해야 한다. 얼어서 찌그러진 세포를 복원하는 과정에서 미세한 병리학적 징후를 지워버리거나, 반대로 존재하지 않는 패턴을 그럴듯하게 채워 넣을 가능성을 완전히 배제할 수는 없다. 연구팀이 강조했듯 실제 수술실 환경에서 환자 치료 결정에 기여할 수 있는지를 입증하는 대규모 임상 연구가 선행되어야 할 것이다.