Deep Transfer Learning for Kidney Cancer Diagnosis
원문 초록
Many incurable diseases prevalent across global societies stem from various influences, including lifestyle choices, economic conditions, social factors, and genetics. Research predominantly focuses on these diseases due to their widespread nature, aiming to decrease mortality, enhance treatment options, and improve healthcare standards. Among these, kidney disease stands out as a particularly severe condition affecting men and women worldwide. Nonetheless, there is a pressing need for continued research into innovative, early diagnostic methods to develop more effective treatments for such diseases. Recently, automatic diagnosis of Kidney Cancer has become an important challenge especially when using deep learning (DL) due to the importance of training medical datasets, which in most cases are difficult and expensive to obtain. Furthermore, in most cases, algorithms require data from the same domain and a powerful computer with efficient storage capacity. To overcome this issue, a new type of learning known as transfer learning (TL) has been proposed that can produce impressive results based on other different pre-trained data. This paper presents, to the best of the authors' knowledge, the first comprehensive survey of DL-based TL frameworks for kidney cancer diagnosis. This is a strong contribution to help researchers understand the current challenges and perspectives of this topic. Hence, the main limitations and advantages of each framework are identified and detailed critical analyses are provided. Looking ahead, the article identifies promising directions for future research. Moving on, the discussion is concluded by reflecting on the pivotal role of TL in the development of precision medicine and its effects on clinical practice and research in oncology.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
알츠하이머병 연구의 진단 및 진행 예측을 위한 정보 누출 제어 다중 모달 학습
Leakage-Controlled Multimodal Learning for Diagnosis and Progression Prediction in Alzheimer's Disease Research
알츠하이머병(Alzheimer's disease) 예측은 불규칙한 방문 주기, 이종의 측정값, 불완전한 모달리티 문제를 수반합니다. 본 연구에서는 맞춤형 SFCN MRI 인코더, 4개의 인과적 임상 트랜스포머(clinical Transformer), 공유 융합 모듈, 과업별 ODE-GRU 역학을 결합한 다중 모달 다중 과업(multimodal multitask) 프레임워크를 제안합니다. 미세조정(fine-tuning)과 LoRA를 적용해 마지막 두 개의 MRI 블록을 적응시킵니다. Task-DRO는 과업 간 손실의 균형을 맞추며, Group-CVaR은 코호트 및 동반 질환 계층을 목표로 합니다. 브랜치별 입력 제어, 피험자 그룹화 분할, 경험적 인과성 검증을 통해 종단적 평가를 지원합니다. ADNI, OASIS-2, MIRIAD의 2,649명 피험자와 17,317회 방문 데이터를 기반으로 한 내부 검증에서, 진단, 1단계 진행, 첫 1단계 방문 진행의 AUROC는 각각 0.935 +/- 0.002, 0.884 +/- 0.003, 0.870 +/- 0.005를 기록했습니다(3개 시드에 대한 평균 +/- 표준편차). 상응하는 하이브리드 AUROC는 각각 0.951, 0.909, 0.896입니다. 다음 방문 시점의 MMSE 평균 절대 오차(MAE)는 1.61점이며, 최하위 계층의 진단 AUROC는 0.827 +/- 0.008입니다. 샘플링된 ADNI 설명 분석을 통해 과업별 입력 의존성을 식별했습니다. OASIS-3 외부 검증에서는 네트워크 및 하이브리드 진단 AUROC가 각각 0.763과 0.767, 하이브리드 다음 방문 진행 AUROC가 0.764를 기록했고, 진단 캘리브레이션 오차는 0.197에서 0.052로 감소했으며, 다음 방문 MMSE MAE는 0.86을 나타냈습니다. 시드 42에 대한 6개 구성 요소의 대응 절제 연구(ablation study) 결과, 풀링된 진단 및 진행 AUROC 차이는 -0.004에서 +0.004 사이로 나타났으며, 임상 인코더 입력을 제거하면 진단 AUROC가 0.272 감소했습니다. 본 프레임워크는 종단적 예측, 결측 모달리티 처리, 보조 동반 질환 모델링, 하위 그룹 평가를 단일 파이프라인 내에 통합합니다.
종단적 혈당 표현을 위한 전이 가능한 근거 재구성
Transferable Evidence Reconstruction for Longitudinal Glucose Representations
긴 생체 신호 기록에는 일상적인 측정값이 다수 포함되어 있지만, 예측 정보는 희귀 사건, 지속적인 부담, 반복적인 시계열 패턴에 집중되어 있는 경우가 많습니다. 마스크드 오토인코딩(masked autoencoding)은 측정값을 복원하고, 대조 학습(contrastive learning)은 뷰(view)를 정렬합니다. 본 연구에서는 구조화된 신호 근거를 명시적으로 우선시하는 자기지도학습(self-supervision)을 연구합니다. 저자들은 레이블이 지정되지 않은 기록에서 근거를 구축하고, 한 기록 그룹에 새로운 저용량 리더(reader)를 적합(fit)시킨 뒤, 해당 리더가 재적합 없이 다른 그룹에서도 동일한 근거를 복원하도록 요구하는 전이 가능한 근거 재구성(transferable evidence reconstruction, TER)을 도입합니다. 이러한 교차 그룹 테스트를 통해 역전파 미분을 수행함으로써 전이 가능한 근거 디코딩 규칙을 갖는 표현을 학습하며, 이때 근거는 자기지도학습을 유도하지만 다운스트림 특징(feature)으로는 사용되지 않습니다. 연속 혈당 측정(CGM)을 위해 관측 인지 일간 인코더와 시계 인지 다일 메모리는 최대 7일간의 기록을 정리하면서 혈당 수치 및 변화를 기록된 시간과 결합합니다. 14개 작업으로 구성된 리더보드에서 TER은 기존 최강 모델의 전반적인 PR-AUC/ROC-AUC/Macro-F1 점수를 각각 5.51/4.43/2.80%포인트 향상시키고 12/14개 작업에서 최고 지표를 경신했습니다. 이러한 리더보드 성능 향상은 상위 두 베이스라인 간 격차의 각각 2.0~2.9배에 달합니다. 공개 사전학습(pre-training) 데이터, 폴드, 선형 프로브(linear probe) 조건을 일치시켰을 때, TER은 저자들이 재현한 GlucoFM 대비 6.09/5.52/2.72포인트 더 우수한 성능을 보였습니다. 타깃 리더 소거 연구(ablation), 동일 이력 대조군, 교차 개인 판독 실험은 구조화된 근거, 교차 그룹 리더 적합, 학습된 다일 정리의 결합을 뒷받침합니다.
자동 신세포암 등급 분류를 위한 조직병리학 및 CT 기반 교차 모달 대조 학습
Cross-Modal Contrastive Learning from Histopathology and CT for Automated Renal Cell Carcinoma Grading
배경: 투명세포 신세포암(ccRCC)은 상당한 임상적 이질성을 보이며, 위험 계층화 및 치료 계획 수립을 위해서는 정확한 등급 평가가 필수적이다. 그러나 기존의 등급 평가는 침습적인 조직 채취를 필요로 한다. 본 연구에서는 비침습적인 CT 기반 ccRCC 등급 예측을 개선하기 위해 학습(training) 중 쌍을 이룬 조직병리학 및 컴퓨터 단층촬영(CT) 데이터를 활용하는 교차 모달 대조 학습(cross-modal contrastive learning) 프레임워크인 RCC-Align을 개발했다. 방법: RCC-Align은 대조 교차 모달 목적함수를 통해 쌍을 이룬 전체 슬라이드 조직병리학 이미지(WSI)와 CT 스캔을 정렬하여 미시적인 조직 형태학으로부터 거시적인 방사선학적 표현으로 등급 판별 정보를 전달한다. 이 프레임워크는 환자 수준의 5겹 교차 검증(validation)을 사용하여 쌍을 이룬 TCGA 및 CPTAC 코호트에서 학습 및 평가되었다. 저등급 대 고등급 ccRCC 분류(classification) 성능을 CT 전용 베이스라인(DINOv2-Base 및 DINOv2-Finetuned)과 WSI 기반 참조 모델(model)(GigaPath-Finetuned)과 비교했다. 교차 모달 정렬은 코사인 유사도 분석을 사용하여 평가되었다. 결과: RCC-Align은 0.601의 AUC(95% CI, 0.524-0.673) 및 0.599의 AUPRC(95% CI, 0.541-0.676)를 달성하여 유의하게 향상된 저등급 예측 성능(p = 0.004)과 함께 DINOv2-Finetuned(AUC 0.545, AUPRC 0.543)를 능가했다. 또한 RCC-Align은 베이스라인과 비교하여 더 강력한 쌍 WSI-CT 임베딩(embedding) 정렬을 보였다. WSI 기반 GigaPath 참조 모델은 0.719의 AUC를 달성했다. 결론: 병리학 유도 대조 학습은 추론(inference) 시 CT만 필요로 하면서도 CT 기반 ccRCC 등급 분류를 개선한다. 이러한 접근법은 생검이 안전하지 않거나 불가능하거나 종양 내 이질성으로 인해 제한될 때 조직 진단을 보완할 수 있다. 임상적 적용 전 외부 테스트를 포함한 더 크고 다기관인 코호트에서의 검증이 필요하다.
청소년 특발성 척추측만증 진행 예측
Predicting the Progression of Adolescent Idiopathic Scoliosis
청소년 특발성 척추측만증(Adolescent Idiopathic Scoliosis)은 원인을 알 수 없이 청소년기에 발생하는 척추의 측만으로 정의된다. 이 질환은 상당한 통증과 장애를 초래할 수 있으며, 청소년기 동안 빠르게 진행되는 경우가 많다. 본 논문의 목표는 이중 X선 흡수계측(Dual X-ray Absorptiometry, DXA) 스캔 시퀀스로 측정한 9세부터 24세까지의 시간적 시퀀스에서 질환의 진행을 예측하는 것이다. 이를 위해 척추 곡선을 입력으로 받아 곡선 진행을 예측하는 트랜스포머 모델을 학습한다. 모델은 다양한 곡선 유형과 진행 패턴을 포함하는 대규모 합성 척추 곡선 및 시계열 데이터셋으로 학습된다. 여러 시점을 포함하는 실제 DXA 스캔 데이터셋에서 평가하여 합성 데이터에서 실제 데이터로 일반화할 수 있음을 보인다. 실제 데이터에 대한 미세조정이 성능을 크게 향상시킨다. 모델은 척추측만증과 정상 경우 모두에서 척추 곡선 진행을 정확하게 예측할 수 있다.
교과서적 지식인가 임상 사례인가? 데이터 유형이 의료 대규모 언어 모델을 형성하는 방식
Didactic knowledge or Clinical Cases? How Data Types Shape Medical Large Language Models
의료 대규모 언어 모델(Medical LLM)은 흔히 교육용(didactic) 데이터(예: 교과서)와 임상(clinical) 데이터(예: 환자 기록)를 혼합하여 학습하지만, 이러한 데이터 유형이 모델 역량을 어떻게 다르게 형성하는지는 여전히 불분명하다. 우리는 교육용 대 임상 비율을 바꾸는 토큰(token) 매칭 실험으로 이 문제를 다루고, 데이터 구성이 지식 집약형 및 임상 지향 과제 전반에서 성능, 역량 프로필, 오류 패턴에 어떤 영향을 미치는지 분석한다. 과제 유형 간 비대칭적 전이를 밝힌다: 임상 데이터는 임상 지향 과제를 개선하면서 지식 집약형 과제에서도 경쟁력을 유지하는 반면, 교육용 데이터는 주로 지식 집약형 과제를 개선한다. 오류 분석은 아는 것과 하는 것 간의 격차(knowing-doing gap)를 시사하며, 지식 회상의 개선이 임상 추론으로 일관되게 일반화되지 않는다. 또한 소량의 임상 데이터만으로도 EHR 기반 과제에서 대부분의 이득을 얻을 수 있음을 관찰했으며, 최적 혼합 비율은 하류 과제의 지식 및 임상 추론 요구에 따라 달라진다. 이러한 결과는 의료 LLM 데이터 큐레이션이 응용 주도적이어야 하며, 추론 집약형 사용 사례에서는 임상 데이터 비중을 더 높이는 것이 바람직함을 시사한다.
작물 병해충 진단을 위한 구성 가능한 다단계 비전 파이프라인
Configurable Multi-Stage Vision Pipeline for Crop Disease and Pest Diagnosis
FarmerChat는 Digital Green이 소규모 농가를 위해 제공하는 농업 자문 서비스이다. 작물에 이상이 있어 보이면 농민은 사진을 찍어 전송하며, 그 사진이 질문의 전부이다: 증상에 대한 설명도, 작물 이름도 없으며, 텍스트가 전혀 없는 경우도 많다. 이 서비스는 저가 휴대폰으로 야외에서, 조명이 열악하고 카메라가 흔들리는 상태에서 촬영된 이미지만으로 사진을 사용할 수 있는지, 어떤 작물이 찍혀 있는지, 무엇이 문제인지를 판단해야 한다. 현재 이를 수행하는 시스템은 조정이 불가능하다. 사진 거부를 위한 조정 가능한 임계값이 없고, 작물과 문제 항목을 추가할 수 없으며, 설정할 수 있는 신뢰도 컷오프도 없다. 우리는 에티오피아, 인도, 케냐, 나이지리아에서 FarmerChat로 전송된 약 116만 장의 사진을 연구한다. 프로덕션 품질 게이트는 판정한 이미지 중 46.8%를 거부했으며, 진단 단계에 도달한 이미지 중 4분의 1 이상이 작물 이름을 반환하지 못했고, "질병(disease)"으로 분류된 문제의 35.8%는 작물 정보 없이도 식별 가능한 병해충이었다. 이에 따라 우리는 작업을 품질 게이트(M0), 작물 검출기(M1), 질병/병해충 검출기(M2)의 세 단계로 분리하였다. 경로 A(Route A)는 세 단계 모두를 단일 파인튜닝된 비전-언어 모델(Qwen3-VL-4B)로 채워 한 번의 호출로 응답한다. 경로 B(Route B)는 각 단계를 소형 전문 모델(DaViT, YOLO26)로 채운다. 우리는 프로덕션 GPT-4o 품질 게이트를 12ms에 86.9% F1을 기록하는 소형 MobileNetV3 게이트로 대체하였다. 모든 시스템을 동일한 방식으로 채점한 하나의 테스트 세트에서, 계층적 DaViT-Base는 95.41%의 작물 정확도를 달성하여 프로덕션 기준선의 91.46%를 능가하였다. 또한 진단 성능에서도 앞서며 응답을 거부하는 경우가 전혀 없는 반면, 비교 대상인 모든 언어 모델은 상당 비율의 행에서 진단을 내리지 못했다. 파인튜닝된 모델은 전문 모델들이 갖지 못한 두 가지 기능을 유지한다: 세 단계 모두를 한 번의 호출로 처리하는 것, 그리고 이미지가 답변을 뒷받침할 수 없을 때 더 나은 사진을 요청하는 것이다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.