PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.35943v2cs.CV

HERO: 종양학 분야의 강건한 표현 학습을 위한 조직병리학 인코더

HERO: Histology Encoder for Robust Representation in Oncology

대규모 병리학 이미지 말뭉치로 학습된 파운데이션 모델(foundation model)은 이제 전산병리학(computational pathology)을 위한 강력하고 전이 가능한 표현을 제공합니다. 지난 몇 년간 이러한 모델들이 잇달아 공개되었으며, 각 모델은 이전 모델보다 더 많은 슬라이드로 학습되었습니다. 표준 분류 및 분할(segmentation) 벤치마크에서 선도적인 모델들 간의 격차는 이제 매우 미미한 수준입니다. 그러나 임상 현장에서는 파운데이션 모델이 학습 데이터에 포함되지 않은 병원, 스캐너 및 염색 프로토콜에서 생성된 이미지에 적용됩니다. 인코더는 일반적으로 생물학적 정보와 함께 이러한 획득 요인(acquisition factor)들을 함께 임베딩하며, 이는 다운스트림 오류를 유발하고 안전한 임상 도입을 저해할 수 있습니다. 따라서 병리학 파운데이션 모델은 표현 품질을 유지하면서도 데이터 획득 변화(acquisition shift)에 강건해야 하지만, 강건성은 모델 간 비교에서 거의 고려되지 않는 기준이었습니다. 본 보고서에서는 DINO 및 iBOT 목표로 학습되고, 약 575,000개의 임상 전체 슬라이드 이미지(WSI)에서 추출한 형태학적으로 균형 잡힌 5억 개의 타일 말뭉치에서 고해상도 그람 앵커링(Gram anchoring)으로 정제된 ViT-G/14 병리학 파운데이션 모델인 HERO(Histology Encoder for Robust Representation in Oncology)를 소개합니다. 평가된 공개 벤치마크 전반에서 HERO는 비교된 최고 수준(state-of-the-art)의 파운데이션 모델 중 기관, 스캐너 및 염색 변화에 대해 가장 강력한 강건성을 보였습니다. 또한 타일 수준의 분류, 분할 및 유전자 발현 예측에서 필적하는 성능을 달성했으며, 평가된 39개 슬라이드 수준 임상 작업 전반에서 평균 1위를 기록했고, 동일 가중치 프레임워크 수준 분석에서도 6개 벤치마크 프레임워크 전반에 걸쳐 가장 우수한 평균 순위를 기록했습니다.

arXiv:2606.30020v2cs.CV

심층 상호 학습을 통한 병리학 기반 모델의 불확실성 추정

Uncertainty Estimation in Pathology Foundation Models via Deep Mutual Learning

병리학 기반 모델(Pathology foundation models, PFM)은 전체 슬라이드 이미지(whole-slide image, WSI) 분석을 위한 일반화 가능한 표현을 제공하지만, 임상 도입은 여전히 제한적입니다. 구체적으로, 이들의 예측은 신뢰할 수 있는 신뢰도 추정치가 부족하며, 모든 작업에 걸쳐 보편적으로 가장 뛰어난 단일 PFM이 존재하지 않아 의료 환경에서의 신뢰를 심각하게 저하시킵니다. 이를 극복하기 위해, 본 연구에서는 $K$개의 동결된 PFM을 앙상블(ensemble)하고 이들의 합의를 바탕으로 불확실성을 추정하는 플러그 앤 플레이(plug-and-play) 프레임워크인 DICE를 제안합니다. 심층 상호 학습(deep mutual learning)을 통해 앙상블 구성원들을 정렬하며, 이 목적 함수가 인식론적 불확실성(epistemic uncertainty)의 상한을 제어함을 이론적으로 보입니다. 또한, 명시적인 지도 없이도 앙상블이 패치 수준에서 이상 부위를 국소화(localization)함을 입증합니다. 세 가지 까다로운 WSI 벤치마크에서 DICE를 평가합니다. 특히 본 프레임워크는 분류(classification), 보정(calibration), 국소화에서 SOTA 베이스라인과 대등하거나 능가하는 성능을 보이면서, 분포 내(in-distribution) 및 분포 외(out-of-distribution) 설정 모두에서 실패하기 쉬운 사례를 정확히 표시하는 신뢰할 수 있는 불확실성 추정치를 제공합니다. 전반적으로 DICE는 PFM을 불확실성을 인지하는 의사결정 지원 시스템으로 전환하는 데 중요한 진전을 이룹니다.