arXiv:2610.00421v1 cs.CV

유지되는 점수와 누출되는 벤치마크: 공개 뇌종양 MRI 분류에서의 데이터셋 오염 측정

Scores That Hold, Benchmarks That Leak: Measuring Dataset Contamination in Public Brain-Tumor MRI Classification

Bhanu Prakash Vangala, Sowmya Guda, Latha Peddi, Navya Vangala

제출 2026-09-30

한국어 초록

MRI를 이용한 뇌종양 자동 분류(classification)는 의료 영상 분야에서 심층 학습(deep learning)이 활발히 적용되는 연구 주제로, 공개 벤치마크에서 보고되는 정확도는 일상적으로 98%를 웃돕니다. 그러나 정확도는 벤치마크 품질의 중요한 차원인 데이터셋(dataset) 무결성, 즉 영상, 환자, 획득 출처 수준에서 테스트 데이터가 학습(training) 데이터로부터 독립적인지 여부를 포착하지 못합니다. 본 연구에서는 관련 문헌의 기반이 되는 공개 코퍼스를 평가하기 위해 중복, 환자, 출처-라벨 누출로 구성된 3개 층(layer) 오염 프레임워크를 도입합니다. 가장 널리 사용되는 3개 코퍼스를 흉부 X선 음성 대조군과 비교 감사하고, 9개 아키텍처와 3개 평가 조건에 걸쳐 각 층이 측정된 성능에 미치는 영향을 정량화합니다. 모든 층에서 오염이 심각한 수준이었습니다. 가장 지배적인 코퍼스의 공식 테스트 분할 중 28.8%는 자체 학습 분할 내에 유사 복제본이 존재했고, 두 번째 코퍼스는 테스트 영상의 22.3%가 바이트 단위로 동일하게 누출되었으며, 추적 가능한 테스트 영상의 95.5%가 학습 데이터와 동일한 환자를 공유했고, 해부학적 정보를 포함하지 않는 파일 헤더 특징만으로도 파인튜닝(fine-tuning)된 ResNet 백본과 동등한 수준인 0.959의 균형 정확도로 종양과 비종양을 구분했습니다. 예상치 못한 결과는 확인된 모든 누출 테스트 영상을 제거해도 균형 정확도가 실질적으로 변하지 않았다는 점입니다. 즉, 중복 제거 후에도 성능이 안정적으로 유지된다고 해서 벤치마크의 무결성이 입증되는 것은 아닙니다. 본 연구의 결과는 데이터셋 무결성이 안정적인 리더보드만으로는 보증할 수 없는 벤치마크 품질의 명확하고 측정 가능한 축임을 규명합니다. 생물의학 연구에서 이러한 코퍼스만을 바탕으로 보고된 정확도는 모델(model)이 데이터셋 특화 단서를 악용하는 대신 종양을 인식하도록 학습되었음을 증명하지 못합니다. 연구진은 오염된 파일 목록, 복구된 환자 식별자, 중복이 제거된 분할 데이터를 공개합니다.

원문 초록

Automated classification of brain tumors from MRI is a heavily published application of deep learning in medical imaging, with reported accuracies on public benchmarks routinely exceeding 98%. However, accuracy does not capture a critical dimension of benchmark quality: dataset integrity, defined as the independence of test from training data at the image, patient, and acquisition-source levels. We introduce a three-layer contamination framework comprising duplicate, patient, and source-label leakage to assess the public corpora on which this literature rests. We audit the three most widely used corpora against a chest-radiograph negative control and quantify each layer's effect on measured performance across nine architectures and three evaluation conditions. Contamination is severe at every layer: 28.8% of the dominant corpus's official test split has a near-twin in its own training split, a second corpus leaks 22.3% of its test images byte-identically, 95.5% of traceable test images share a patient with training, and file-header features containing no anatomy separate tumor from no-tumor at 0.959 balanced accuracy, at parity with fine-tuned ResNet backbones. The unexpected result is that removing every identified leaked test image leaves balanced accuracy essentially unchanged: stable performance after deduplication does not establish benchmark integrity. Our findings establish dataset integrity as a distinct, measurable axis of benchmark quality that a stable leaderboard cannot certify. For biomedical research, reported accuracy on these corpora alone does not establish that a model has learned to recognize tumors rather than exploit dataset-specific cues. We release the contaminated-file lists, recovered patient identifiers, and deduplicated splits.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.00421v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13675v1eess.IV공통 태그 Medical Image Analysis, Image Classification, Benchmarking

멀티모달 의사결정 모델이 유방 초음파 이미지를 분류할 수 있는가? 프롬프트와 데이터셋 전반에 걸친 CLEF 및 CLEF-Flash 벤치마킹

Can Multimodal Decision Models Classify Breast Ultrasound Images? Benchmarking CLEF and CLEF-Flash Across Prompts and Datasets

멀티모달 의사결정 모델은 사전에 정의된 대안들에 대한 확률을 반환하여 이미지 분류를 위한 구조화된 인터페이스를 제공한다. 본 연구는 Dataset B, BUSI, BUS-BRA에서 수집한 2818개의 유방 초음파 이미지에 대해 CLEF 및 CLEF-Flash를 사용한 추론을 벤치마킹한다. Dataset B와 BUS-BRA는 이진 양성-악성 분류를 사용하는 반면, BUSI는 정상, 양성, 악성 범주를 포함한다. 모델 파라미터는 변경하지 않은 채 유지되며, 원본 이미지는 사용자 정의 전처리 없이 입력된다. 세 가지 프롬프트는 최소한의 라벨, 명시적인 분류 태스크, 또는 초음파 검사 기준을 제공한다. 본 연구에서는 정확도, 매크로 F1, 균형 정확도, 매크로 정밀도, 처리량, 지연 시간을 보고한다. 임상 프롬프트를 적용한 CLEF-Flash는 세 데이터셋 모두에서 가장 높은 정확도를 달성하여 Dataset B에서 74.85%, BUSI에서 66.28%, BUS-BRA에서 51.63%를 기록했다. 그러나 BUSI에서는 태스크 유도 프롬프트를 적용한 CLEF가 가장 높은 매크로 F1(64.51%)과 균형 정확도(68.72%)를 달성했다. CLEF-Flash는 일치 조건으로 비교한 모든 경우에서 더 낮은 지연 시간을 보였다. 임상 지침 프롬프트는 최소 프롬프트 대비 CLEF-Flash의 정확도를 향상시켰으나, 모든 데이터셋에서 CLEF의 정확도는 감소시켰다. 혼동 행렬을 통해 양성을 악성으로 오분류하는 오류가 빈번함을 확인했으며, 특히 BUS-BRA에서는 모든 구성이 다수 클래스 예측기의 정확도인 67.63%에 미치지 못했다. 이러한 결과는 성능이 데이터셋과 프롬프트에 따라 달라짐을 보여주며, 유방 초음파 분석에 멀티모달 의사결정 모델을 적용하기 전에 클래스별 평가가 선행되어야 함을 시사한다.

arXiv:2610.03193v1cs.CV공통 태그 Medical Image Analysis, Image Classification, Benchmarking

연구와 실제 임상의 간극 좁히기: 임상 피부 병변 분류에서 범용 모델과 피부과 특화 모델의 체계적 평가

Bridging Research and Practice: A Systematic Evaluation of Generalist and Dermatology-Specific Models in Clinical Skin Lesion Classification

최근 몇 년 동안 피부과 분야에서의 머신러닝 활용은 개념 증명(PoC) 연구를 넘어 잠재적 응용으로 나아가며 크게 성장했습니다. 그러나 임상 피부과는 여전히 도전적이며 해결되지 않은 문제로 남아 있습니다. 진단적 평가는 모호한 경우가 많고, 피부 병변은 높은 다양성을 보이며, 획득 양식(modality), 기기 품질, 환자 인구통계학적 특성의 차이로 인해 이러한 점이 더욱 복잡해집니다. 이러한 요인들은 안전하고 공평한 임상 적용에 적합한 강건한 모델의 개발을 저해합니다. 실제 임상으로의 전환을 지원하기 위해서는 최신 모델들이 이종 데이터 소스 전반에서 어떻게 일반화되는지 체계적으로 평가하는 것이 필수적입니다. 본 연구에서는 더모스코피(dermoscopic) 이미지와 스마트폰 기반 임상 사진을 아우르는 최신 피부과 데이터셋을 바탕으로 다양한 아키텍처를 벤치마크합니다. 최신 범용 및 의료 비전-언어 모델(VLM)과 파운데이션 모델의 강건성을 평가하고, 이를 임베딩(embedding) 기반 접근법 및 합성곱 신경망(CNN)을 포함한 태스크 특화 피부과 분류기와 비교합니다. 본 연구는 분포 변화(distribution shift), 모달리티 변화, 인구통계학적 다양성 하에서의 모델 성능 평가를 제공합니다. 현재의 최고 성능(SOTA) 모델과 임상 배치 요구 조건 사이의 격차를 정량화함으로써, 피부과를 위한 신뢰할 수 있고 접근 가능하며 임상적으로 적용 가능한 AI 시스템 개발에 기여하고자 합니다.

arXiv:2610.13637v1eess.IV공통 태그 Medical Image Analysis, Image Classification

약하게 주석된 바이오이미징 데이터를 위한 모델 무관 지식 증강 머신러닝

Model-agnostic Knowledge Augmented Machine Learning for Weakly Annotated Bioimaging Data

현미경 및 세포형태학 이미지와 같이 약하게 주석된(weakly annotated) 바이오이미징 데이터로부터 자동 특징 추출을 수행하기 위해 머신러닝 모델의 활용이 점차 증가하고 있습니다. 그러나 자동 특징 추출에만 전적으로 의존하기 때문에, 기존 기법들은 약하게 주석된 데이터셋 전반에서 일관되지 않은 분류 성능을 보입니다. 본 연구에서는 머신러닝 모델이 자동 특징 추출로 포착할 수 있는 범위를 넘어 도메인 지식을 활용할 수 있도록 지원하는 모델 무관(model-agnostic) 지식 증강 기법을 제안합니다. 제안된 접근 방식은 7가지 머신러닝 아키텍처 전반에서 분류 성능을 향상시킵니다. 마스크 오토인코더(MAE) 기반 자기지도학습과 통합했을 때 본 기법은 전반적으로 가장 강력한 성능을 달성하여, 3개의 사내 현미경 데이터셋에서 차순위 방식 대비 정밀도를 2.9% 향상시켰으며 3개의 공개 세포형태학 벤치마크에서는 평균 6.8% 향상시켰습니다. 본 연구에서는 인간 유도만능줄기세포 유래 운동 신경세포에 대한 세 가지 독립적인 현미경 데이터셋을 활용하여, 근위축성 측삭 경화증(ALS)과 연관된 표현형인 핵에서 세포질로의 TAR DNA 결합 단백질 43(TDP-43) 이소(mislocalization) 현상을 기반으로 세포핵 수준의 분류를 수행합니다. 대규모 환경에서 이 표현형을 정확히 정량화하는 것은 여전히 어려우며, 이는 연구 간 불일치를 초래하는 원인이 될 수 있습니다. 성능이 가장 우수한 모델을 이들 현미경 데이터셋에 적용한 결과, 프로테아좀 스트레스원인 MG132와 산화 스트레스원인 아비산나트륨(SA)이 TDP-43 이소에 미치는 농도 의존적 영향, 산발성 및 가족성 ALS 공여자의 운동 신경세포에서 나타나는 다양한 병리 양상, 그리고 약리학 화합물인 에다라본과 니클로사마이드가 SA 유도 TDP-43 이소에 대해 보호 효과를 제공하지 못한다는 점 등을 포함하여 ALS와 관련된 생물학적 해석을 도출했습니다. 종합적으로, 본 파이프라인은 생체 외(in-vitro) 세포 이미지 분석을 가능하게 하여 ALS 관련 병리와 잠재적 치료법에 대한 이해를 증진하는 데 기여합니다.

arXiv:2610.11086v1cs.CV공통 태그 Medical Image Analysis, Image Classification

대비 향상인가 노이즈 감소인가? 자궁경부암 분류 성능 개선에 대한 고찰

Contrast Enhancement or Noise Reduction? On Improving Cervical Cancer Classification

목적: 자궁경부암은 전 세계적으로 주요 사망 원인 중 하나입니다. 심층 학습(deep learning)은 의료 이미지 분류에서 유망한 성능을 보여주었습니다. 이미지 전처리 알고리즘이 분류 성능에 미치는 영향은 기존 문헌에서 충분히 조사되지 않았습니다. 본 연구는 팹도말(Pap smear) 이미지 분류를 위한 CNN의 성능에 이미지 전처리 알고리즘이 미치는 영향을 평가하는 것을 목표로 합니다. 방법: SIPaKMeD 데이터셋을 사용하여 세 가지 CNN 아키텍처(ResNet-34, MobileNet-V2, DenseNet-121)를 학습하고 평가했습니다. 두 가지 전처리 알고리즘이 적용되었습니다: 노이즈 감소를 위한 PMD 필터와 대비 향상(contrast enhancement)을 위한 CLAHE입니다. 모델 성능은 혼동 행렬을 사용하여 평가되었습니다. 결과: 전처리는 모든 모델의 분류 성능을 향상시켰습니다. CLAHE는 ResNet-34의 정확도를 76.73%에서 84.16%로, DenseNet-121의 정확도를 76.73%에서 84.16%로 크게 향상시켰습니다. PMD 필터는 제한적인 개선만을 보였으며 MobileNet-V2 성능을 약간 저하시켰습니다. 독창성: 본 연구는 여러 CNN 아키텍처 전반에 걸쳐 대비 향상과 노이즈 감소 기법에 대한 체계적인 비교를 제공합니다. 본 연구는 CNN 성능을 향상시키는 데 대비 향상이 노이즈 감소보다 더 효과적임을 입증합니다. 또한 본 연구는 자궁경부암 분류를 개선하기 위한 새로운 파이프라인을 제공합니다.

arXiv:2610.02270v1eess.IV공통 태그 Medical Image Analysis, Benchmarking

흉부 X선 비전-언어 모델을 위한 신뢰성 스트레스 테스트 및 결정 시점 라우팅

Reliability Stress Tests and Decision-Time Routing for Chest X-ray Vision-Language Models

의료 비전-언어 모델(VLM) 평가는 워크플로 설계, 프롬프트 전략, 벤치마크 구성에 민감하지만, 대부분의 연구는 이러한 요인들을 개별적으로 다룹니다. 본 연구에서는 두 개의 균형 잡힌 데이터셋(비공개 보고서 기반 데이터셋 및 선별된 MIMIC 서브셋)을 기반으로 구축된 흉부 X선 판독을 위한 신뢰성 스트레스 테스트를 소개합니다. 세 가지 의료 VLM(CheXagent, MedGemma-4B, MedGemma-27B)을 세 가지 프롬프트 스타일과 두 가지 워크플로(단일 VLM 및 멀티 에이전트)에 걸쳐 평가하여 총 36개의 구성을 생성했습니다. 본 연구는 정확 일치(exact-match) 정확도만으로는 기본적으로 "정상(Normal)" 예측을 내놓는 보수적인 모델의 유효성이 과장될 수 있음을 보여줍니다. 진단 신뢰성 또한 모델 계열과 규모에 크게 의존하는데, 멀티 에이전트 추론은 일부 구성에는 도움이 되지만 다른 구성에는 오히려 해가 됩니다. 이러한 관찰을 바탕으로, 유익한 경우에만 멀티 에이전트 추론으로 선택적으로 이관하여 고정된 워크플로 대비 비용-품질 트레이드오프를 개선하는 결정 시점 라우팅(decision-time routing) 프레임워크를 제안합니다. 본 연구 결과는 임상 배포 전에 프롬프트 민감도, 실패 모드의 다양성, 워크플로 선택을 종합적으로 고려하는 평가 프로토콜의 필요성을 강조합니다.

arXiv:2610.02421v1cs.CV공통 태그 Medical Image Analysis, Image Classification

저배율 두피 이미지 기반 안드로겐성 탈모증 평가를 위한 AI 기반 다단계 접근법

An AI-Based Multi-Stage Approach for Androgenetic Alopecia Assessment from Low-Magnification Scalp Images

안드로겐성 탈모증(AGA)은 패턴화된 모낭 소형화, 단일 모발 모낭군(FU) 증가, 모간 직경 변화를 특징으로 합니다. 본 연구에서는 모낭군 위치 추정, 서열형 가시 모간 수 계수, 캘리브레이션된 모간 너비 추정, 부위별 집계, 해석 가능한 규칙 층(layer)을 결합한 자동화된 정량적 두피 분석 및 임상 의사결정 지원 프레임워크를 제시합니다. 임상 코호트는 243명의 환자(AGA 127명, 비AGA 116명)로 구성되었으며, 컴퓨터 비전(CV) 실험에는 전문가가 주석을 추가한 160명의 환자, 2,400장의 모발경 검사 이미지, 약 158,000개의 모낭군 주석이 활용되었습니다. 환자 비중복 평가에서 YOLOv8m은 테스트 [email omitted]=0.920 및 재현율(recall)=0.860을 달성하였고, 서포트 맵 채널을 갖춘 EfficientNet-B5는 전문가 바운딩 박스 기준 87.0%의 계수 정확도(매크로 F1=0.85)를 달성했습니다. 별도의 500개 이미지 세트에 대해 검출기가 생성한 박스를 기반으로 엔드투엔드 처리를 수행한 결과, 인간 전문가 주석 대비 모낭 검출 MAE 6.56, 모낭 분류(classification) MAE 16.59를 기록했습니다. 본 시스템은 피부과 전문의의 판독을 대체하기보다 보조하도록 고안되었습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.