arXiv:2203.02114

MixCL: Pixel label matters to contrastive learning

Jun Li, Quan Quan, S. Kevin Zhou

제출 2022-03-04

원문 초록

Contrastive learning and self-supervised techniques have gained prevalence in computer vision for the past few years. It is essential for medical image analysis, which is often notorious for its lack of annotations. Most existing self-supervised methods applied in natural imaging tasks focus on designing proxy tasks for unlabeled data. For example, contrastive learning is often based on the fact that an image and its transformed version share the same identity. However, pixel annotations contain much valuable information for medical image segmentation, which is largely ignored in contrastive learning. In this work, we propose a novel pre-training framework called Mixed Contrastive Learning (MixCL) that leverages both image identities and pixel labels for better modeling by maintaining identity consistency, label consistency, and reconstruction consistency together. Consequently, thus pre-trained model has more robust representations that characterize medical images. Extensive experiments demonstrate the effectiveness of the proposed method, improving the baseline by 5.28% and 14.12% in Dice coefficient when 5% labeled data of Spleen and 15% of BTVC are used in fine-tuning, respectively.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.24769v1cs.CV공통 태그 Semantic Segmentation, Medical Image Analysis, Medical Image Segmentation

BraTS 2026 Task 1을 위한 뇌 전이암 분할: 다중 아키텍처 비교

Brain Metastases Segmentation for BraTS 2026 Task 1: A Multi-Architecture Comparison

뇌 전이(brain metastases)는 가장 흔한 두개내 악성종양으로, 원발성 고형암 환자의 약 30%에서 발생하며 중앙값 생존 기간은 약 5.9개월이다. 자동 분할(segmentation)은 치료 계획 수립과 부피 모니터링에 매우 중요하지만, 전이 병변은 한 환자 내에서도 크기가 작고 수가 많으며 이질적인 경우가 많다. 우리는 종단적 UCSD 하위 데이터셋으로 인한 정보 누출을 방지하기 위해 환자 단위 그룹 교차 검증(patient-grouped cross-validation)을 사용하여, BraTS-METS 2026 Task 1에 대해 일반 nnU-Net 기준선(baseline), Residual Encoder Large(ResEncL) 변형 모델, 영역 기반 학습(region-based training), Primus 트랜스포머(transformer) 모델을 비교한다. Primus(레이블 기반)는 집계 DSC/NSD 기준으로 가장 우수한 단일 모델로, ET에서 0.710/0.761, TC에서 0.742/0.785, WT에서 0.683/0.689, RC에서 0.531/0.436을 달성했다. ResEncL은 집계 DSC/NSD에서는 Primus에 뒤지지만 병변 단위 F1 점수는 훨씬 높다(예: ET에서 0.452 대 0.052). 두 모델의 확률 평균 앙상블(probability-averaging ensemble)은 ResEncL의 F1 우위를 부분적으로만 유지한다(ET 병변 단위 F1: 0.064). 또한 우리는 이번 챌린지를 넘어 일반화될 수 있다고 판단되는 후처리 및 레이블 재구성 관련 세 가지 함정(pitfall)을 함께 보고한다. 코드는 https://github.com/mahdiislam79/BraTS_METS_2026 에서 확인할 수 있다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.