AI 기반 디지털병리학을 위한 Multi-Domain, Multi-Modal 데이터 통합 분석 모델 개발
뉴스 · 2026-03-24 · 조회 50
💠Overview 개요
연구제목 : AI 기반 디지털병리학을 위한 Multi-Domain, Multi-Modal 데이터 통합 분석 모델 개발
인공지능 기반 디지털 병리학을 위한 멀티도메인-멀티모달 데이터 통합적 분석 모델 개발
참가자 : 아주대학교의료원 생리학교실 박사후연구원 박성홍
파견 기관 : 프랑스 Henri-Mondor Hospital
해외교류연구자 : Julien Calderaro 교수
💠Program purpose 연구 목적
(1) 연구 배경
◆ 현대 정밀 의료(Precision Medicine)의 패러다임 전환 속에서 병리학은 질병 확진과 예후 예측의 표준 기준(Gold Standard)으로서 그 중요성이 극대화되고 있음. 특히 본 연구의 타겟 질환인 간암(Liver Cancer)은 전 세계 암 사망 원인 3위를 차지하는 치명적 난치암으로, 2040년까지 발병률이 47% 급증할 것으로 예측됨. 간암은 혈관신생이 주도하는 간세포암(HCC)과 섬유화 및 면역 배제가 우세한 간내 담관암(ICC) 등 상반된 병태생리학적 원형이 혼재하며, 종양 미세환경(TME)의 극심한 이질성(Heterogeneity)으로 인해 기존 항암 치료에 높은 저항성을 보임. 따라서 종양 세포와 주변 기질, 면역 세포 간의 복잡한 상호작용을 정밀하게 해독하는 것이 난치성 극복의 핵심 과제로 대두됨.
◆ 전장 슬라이드 이미지(WSI)를 활용한 디지털 병리학이 도입되었으나, 기가픽셀(Gigapixel) 수준의 초대용량 데이터를 처리하는 데 있어 기존 인공지능(AI) 모델은 다음과 같은 한계에 직면해 있음.
① 공간 맥락의 소실: 기존의 다중 인스턴스 학습(MIL)은 패치 간의 독립성을 가정하여 조직의 거시적 위상학적 구조 정보를 간과함.
② 그래프 신경망(GNN)의 연산 병목: 유한한 레이어 깊이로 인해 세포 간 장거리 의존성(Long-range dependency)을 포착하지 못하며, 다수 레이어를 깊이 적층할 경우 과도한 평활화(Over-smoothing)와 메모리 폭증 문제가 발생함.
③ 해석 가능성 및 신뢰성 결여: 진단의 생물학적 근거를 설명하지 못하는 블랙박스 특성과 예측 불확실성(Uncertainty)에 대한 인과적 분해 능력이 부재함.
(2) 연구 목표
◆ 본 연구는 이러한 한계를 극복하기 위해, WSI의 형태학적 정보와 공간 전사체(Spatial Transcriptomics)의 분자 생물학적 정보를 융합하는 멀티도메인-멀티모달 데이터 통합적 분석 AI 프레임워크를 개발하는 것을 최종 목표로 함. 구체적으로는 TME를 동적 평형 시스템(Dynamic Equilibrium System)으로 정의하여 무한 깊이의 추론을 메모리 병목 없이 수행하는 EMSNet 엔진과, 최적 수송 이론을 기반으로 진단 신뢰도를 담보하는 SPOT-MIL 프레임워크를 결합하여, 우수한 예측 정확도와 생물학적 해석력을 갖춘 차세대 병리 진단 원천 기술을 확보하고자 함.
💠Research content 연구 내용
(1) 멀티모달 코호트 구축 및 데이터 표현 전략
◆ 병리학적 특성이 대비되는 원발성 간암 환자 36명(HCC 15명, ICC 21명)의 신선 동결 조직을 대상으로 10x Genomics Visium 공간 전사체 데이터와 H&E 염색 WSI 데이터를 1:1로 정합한 고품질 코호트를 구축함. 데이터 표현은 다음 4가지 핵심 도메인으로 구성됨.
① 분자 전사체 정보: 품질 관리를 거쳐 선별된 상위 3,000개 고변이 유전자(HVGs)의 발현량 행렬.
② 형태학적 병리 정보: Prov-GigaPath 파운데이션 모델을 통해 WSI 패치에서 추출된 1,536차원 고차원 임베딩.
③ 분자 경로 활성도: PROGENy 및 pySCENIC을 활용하여 암 생물학 및 면역 반응과 직결된 11대 핵심 신호전달 경로(EGFR, TGFb, JAK-STAT 등)의 활성도 점수.
④ 물리적 공간 구조 정보: 조직 슬라이드 상의 2차원 공간 좌표.
(2) 핵심 알고리즘 1: EMSNet (평형 유도 멀티모달 공간-오믹스 통합 네트워크)
◆ TME의 상태, 동역학, 구조를 분리하여 모델링하는 딥러닝 아키텍처를 설계함.
① 적응형 다중 그래프(Multiplex Graph) 구축: 조직 내 이질적 상호작용을 정밀 포착하기 위해 형태, 발현, 공간 그래프뿐만 아니라 11개 신호 경로별 특이적 그래프를 포함한 총 14종의 다중 그래프를 생성함. 이를 다중 그래프 메시지 전달 모듈을 통해 통합하여 조직 전체의 확산력을 제어하는 단일 라플라시안 행렬을 산출함. 또한, 인스턴스별 정규화를 도입하여 병원별 스캐너/염색 변이를 원천 제거함.
② 맥락 적응형 전파 게이팅 및 신경 가법 모델: 각 스팟의 생물학적 특성에 따라 정보 전파를 유연하게 조절하는 전파 저항성 계수를 비선형적으로 산출함. 또한, 해석 가능한 구조를 채택하여 각 신호 경로가 저항성에 미치는 영향을 함수 형태로 시각화함.
③ 심층 평형 모델링 기반 내재적 확산: 기존 GNN의 레이어 적층 방식 대신, 에너지 최소화 방정식을 통해 무한한 층을 거친 평형 상태를 직접 탐색함. 자코비 전조건화 켤레 기울기법과 암시적 미분(Implicit Differentiation)을 적용하여 기가픽셀 스케일에서도 상수 메모리만으로 전역적 공간 맥락 정보를 집약함.
(3) 핵심 알고리즘 2: SPOT-MIL (신뢰성 기반 최적 수송 MIL)
① 이중 경로(Dual Path) 진단: 국소적 특징을 포착하는 MIL 경로와 전역적 분포 매칭을 수행하는 OT(최적 수송) 경로를 병렬 결합함. 특히 MIL에서 산출된 어텐션 가중치를 OT의 질량(Mass)으로 주입하여, 배경 노이즈를 배제하고 핵심 병변 패치 위주로 프로토타입 정렬을 수행함.
② 기하학적 제약 및 커리큘럼 학습: 프로토타입 붕괴를 막기 위해 클래스 간 분리 손실과 클래스 내 군집 손실을 도입하고, 학습 초기 수치 안정성을 위해 커리큘럼 스케줄링을 적용함.
③ 계층적 불확실성 분해: 몬테카를로 드롭아웃(MC Dropout)을 통해 총 예측 불확실성을 데이터 품질 결함에 의한 Aleatoric 불확실성과 모델의 지식 부족에 기인한 Epistemic 불확실성으로 정량 분해하여 의료진에게 제공함.
💠Exchange Scholars 파견 성과
(1) 환자 독립적 교차 검증을 통한 진단 정확도 우수성 입증
◆ LOPO (Leave-One-Patient-Out) 교차 검증 프로토콜 하에서 성능 우수성을 입증함.
- 아형 분류 (HCC vs. ICC): 평균 AUROC 0.9876, AUPRC 0.9351을 달성하여 병리 전문의에 버금가는 진단력을 증명함. 이는 심층 평형 기반 확산 모델이 과혈관성과 섬유화라는 거시적 병리 패턴을 정확히 식별했음을 의미함.
- 병변 분류 (Tumor vs. Normal): 미시적 스팟 분류에서도 AUROC 0.8862를 기록, 노이즈가 심한 공간 전사체 데이터 환경에서도 안정적인 경계 탐지 능력을 입증함.
[그림 1] 환자 독립적 교차 검증을 통한 진단 정확도 우수성 입증 결과
(2) TME 형성의 생물학적 메커니즘 및 3대 허브 경로 규명
◆ AI 내부 가중치 분석을 통해 종양 미세환경 형성의 원리를 역설계함.
- 기능/형태 우선성: 물리적 거리보다 기능적 유사성과 형태학적 유사성이 TME 네트워크 형성에 더 크게 기여함을 밝혀냄. 이는 세포들이 원거리에서도 동일한 목적을 가진 집단끼리 통신망을 구축함을 시사함.
- 3대 핵심 허브: 11대 경로들 중 TRAIL(사멸), JAK-STAT(증식/면역), TGFb(섬유화) 경로가 정보 전달의 최상위 가중치를 차지하며 TME 핵심 요인임을 확인함.
- 염증의 독립성: TNFa 등 급성 염증 신호는 기존 조직 구조와 강한 음의 상관관계를 보이며, 물리적 장벽을 무시하고 독자적인 염증성 패턴을 형성함을 규명함.
[그림 2] TME 형성의 생물학적 메커니즘 및 3대 허브 경로 규명 결과
(3) 비선형 동역학 및 양방향 상호작용 평형 입증
◆ 비선형 조절 로직: NAM 분석 결과, TRAIL은 문맥 의존적 스위칭, JAK-STAT은 항상성 유지를 위한 음성 피드백, EGFR은 임계 포화 침윤이라는 고유의 비선형 동역학을 가짐을 도식화함.
- 양방향 평형: 종양 세포와 TME 기질 간의 영향력(Flux) 분석 결과, 모든 환자에서 피어슨 상관계수 0.997의 1:1 대칭 평형 상태임을 파악함. 이는 암세포의 일방적 지배가 아닌, 상호 대등한 타협과 공진화 관계임을 시사함.
- Hot vs. Cold TME: 상호작용 플럭스 총량에 따라 환자군이 염증 우세형(Hot)과 면역 사막형(Cold)으로 명확히 구분됨을 확인하여 면역 치료 반응성 예측의 기틀을 마련함.
[그림 3] 비선형 동역학 및 양방향 상호작용 평형 분석 결과
(4) 잠재 면역 니치(Latent Niches) 발굴
◆ 8대 면역 니치: TME를 8개의 잠재적 군집으로 세분화하고, 이를 성장, 면역 억제/저산소, 염증성 니치 등으로 생물학적 프로파일링함.
[그림 4] 잠재 면역 니치 발굴 결과
(5) 공동 연구 확장을 위한 데이터 공유
◆ 본 프로그램을 통한 공동 연구 확장을 위해 파견 기관의 내부 데이터 306건을 공유받아 추후 연구에 활용할 예정임.
[그림 5] 공동 연구 확장용 공유 데이터 예시
[그림 6] 파견 기관 공동 연구팀 및 연구 그룹 합동 세미나
💠Expected effect 기대 효과
(1) 임상 진단 워크플로우의 지능형 자동화 및 효율화
◆ 본 프레임워크는 병리과 진단 시스템으로 도입 가능하며, 기가픽셀 슬라이드를 빠르게 객관적인 2차 소견을 제공함. 특히 지능형 환자 선별 시스템은 불량 슬라이드를 재촬영하도록 자동 지시하고, 판독이 모호한 고난이도 증례만을 선별하여 전문의 리뷰를 요청함으로써, 의료진의 업무 과부하를 해소하고 오진율을 낮추는 안전한 협업 생태계를 구축함.
(2) 정밀 종양학 및 맞춤형 동반 진단(CDSS)의 혁신
◆ 환자별 고유의 잠재 면역 니치 지도와 상호작용 플럭스 총량 지표는 고가의 면역관문억제제 처방을 위한 강력한 디지털 바이오마커로 활용할 수 있음.
- Hot TME 환자: 면역항암제 단독 투여 권장 및 높은 반응률 예측.
- Cold TME 환자: 면역항암제 실패를 사전 경고하고, TGFb 억제제나 표적항암제(Anti-VEGF) 선투여를 통한 TME 리모델링 전략을 제시함.
◆ 이러한 환자 계층화는 불필요한 의료비 지출을 막고 환자 생존율을 극대화하는 임상 의사결정 지원 시스템의 핵심 엔진이 될 것으로 전망함.
(3) 인실리코(In-silico) 가상 약물 시뮬레이션 및 신약 개발 가속화
◆ 설명 가능한 화이트박스 모델 특성을 활용하여, 가상 공간에서 특정 신호 경로(TGFb, JAK-STAT 등)를 조작했을 때 TME가 어떻게 변화하는지 예측하는 가상 약물 교란 시뮬레이션 플랫폼을 구축할 수 있음. 이는 많은 비용이 소요되는 전임상 동물 실험과 임상 시행착오를 획기적으로 줄여, 최적의 신약 타겟 물질을 초고속으로 스크리닝하는 R&D 혁신 도구로 활용될 수 있음.