Skin Lesion Diagnosis Using Convolutional Neural Networks
원문 초록
Cancerous skin lesions are one of the most common malignancies detected in humans, and if not detected at an early stage, they can lead to death. Therefore, it is crucial to have access to accurate results early on to optimize the chances of survival. Unfortunately, accurate results are typically obtained by highly trained dermatologists, who may not be accessible to many people, particularly in low-income and middle-income countries. Artificial Intelligence (AI) appears to be a potential solution to this problem, as it has proven to provide equal or even better diagnoses than healthcare professionals. This project aims to address the issue by collecting state-of-the-art techniques for image classification from various fields and implementing them. Some of these techniques include mixup, presizing, and test-time augmentation, among others. Three architectures were used for the implementation: DenseNet121, VGG16 with batch normalization, and ResNet50. The models were designed with two main purposes. First, to classify images into seven categories, including melanocytic nevus, melanoma, benign keratosis-like lesions, basal cell carcinoma, actinic keratoses and intraepithelial carcinoma, vascular lesions, and dermatofibroma. Second, to classify images into benign or malignant. The models were trained using a dataset of 8012 images, and their performance was evaluated using 2003 images. It's worth noting that this model is trained end-to-end, directly from the image to the labels, without the need for handcrafted feature extraction.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
억제적 셀프-어텐션: 비전 트랜스포머에서 초점 선명화
Inhibited Self-Attention: Sharpening Focus in Vision Transformers
비전 트랜스포머(ViT)는 컴퓨터 비전(CV) 과제에서 뛰어난 성능을 보여 왔다. 그러나 셀프-어텐션 메커니즘은 종종 배경 영역 전반에 초점을 분산시키며, 객체 관련 단서보다는 가짜 상관관계에 의존하는 경향이 있다. 생물학적 시각 시스템에서 관찰되는 억제 메커니즘에서 영감을 받아, 억제 신호를 통합하여 특징 선택성을 높이고 가짜 반응을 억제하는 새로운 셀프-어텐션인 억제적 셀프-어텐션(ISA)을 제안한다. 소프트맥스 정규화로 인해 양의 어텐션 값에만 의존하는 기존 셀프-어텐션과 달리, 우리 접근법은 음의 어텐션 점수를 유지하고 활용하여 무관한 특징을 억제하고 관심 객체에 대한 초점을 선명하게 한다. ImageNet-1k와 COCO를 포함한 여러 데이터셋과 여러 견고성 벤치마크에 걸친 실험은 ISA가 객체 중심 선택성을 높이고, 지름길 의존을 줄이며, 분포 외 일반화를 개선함을 보여 준다. 관련성 맵 분석은 ISA를 적용한 ViT가 객체 관련 영역에 더 선명하고 국소화된 초점을 보이면서 무관한(배경) 특징으로부터의 방해를 줄여 더 신뢰할 수 있는 모델을 가능하게 함을 확인한다. 코드는 https://github.com/prdvanderwal/inhibited-self-attention 에서 공개한다.
망막 OCT 분류를 위한 보정된 하이브리드 CNN-트랜스포머
Calibrated Hybrid CNN-Transformer for Retinal OCT Classification
망막 광학 간섭 단층 촬영(OCT) 분류를 위한 딥 모델들은 높은 정확도를 보고하지만, 해당 신뢰도(confidence)를 믿을 수 있는지는 거의 보고하지 않는다. 이는 잘못되었지만 확신에 찬 판독이 시력 보존 치료를 지연시킬 수 있다는 점에서 중요한 문제이다. 우리는 하이브리드 합성곱-트랜스포머 인코더에 그래디언트 부스팅(XGBoost) 분류 헤드를 결합하고, 신뢰도 보정, 분포 외(OOD) 거부, 예측별 불확실성 플래깅으로 구성된 세 가지 임상 안전성 층을 적용한다. 4클래스 OCT(84,495개 스캔)에서 모델은 95.4% 정확도를 달성하는 동시에 보정 오류를 12배 줄여(기대 보정 오류, ECE = 0.0024), 보고되는 신뢰도가 실제 정확도를 충실히 반영한다. 우리가 아는 한, 이는 세 가지 안전성 메커니즘 모두를 공동으로 검증한 최초의 OCT 분류기이며, 공개 가중치와 재현 가능한 다중 시드 평가를 함께 제공한다.
자궁경부 세포학 이미지 분류를 위한 기하학 인식 가우시안 사전 분포 및 축방향 어텐션
Geometry-aware Gaussian Prior and Axial Attention for Cervical Cytology Image Classification
정확한 자궁경부 세포학 이미지 분류(image classification)는 자동화된 자궁경부암 검진의 핵심 요소로, 팹 도말(Pap smear) 이미지에서 정상, 전암성 및 암 관련 세포 패턴을 신뢰성 있게 인식함으로써 검진 효율성과 진단 일관성을 향상시킬 수 있다. 그러나 자궁경부 세포는 복잡한 형태, 미묘한 클래스 내 변이, 강한 클래스 간 유사성을 보이기 때문에 이 과제는 여전히 어렵다. 기존 합성곱(convolution) 기반 모델은 지역적 텍스처를 잘 포착하지만 장거리 관계를 모델링하는 능력이 제한적이며, 어텐션(attention) 기반 모델은 더 넓은 문맥을 제공하지만 명시적인 구조적 가이던스가 부족한 경우가 많다. 이러한 한계를 해결하기 위해, 우리는 사전학습된 비전-언어(vision-language) 특징(feature)에서 학습된 의미론적 추상화와 구조적 사전 분포를 결합한, 자궁경부암 검진 지향 세포학 이미지 분석을 위한 기하학 인식 분류 프레임워크를 제안한다. 이 방법은 가우시안 전문가 모듈을 사용하여 전역 의미 정보로부터 축별 사전 분포를 생성하며, 핵 정렬 및 세포 공간 구성과 같은 구조적 규칙성을 포착한다. 이러한 사전 분포는 축방향 자기 어텐션 모듈에 임베딩되어 수평 및 수직 방향을 따라 유사도 계산을 조절하며, 장거리 의존성 모델링과 구조 민감한 특징 상호작용을 향상시킨다. Mendeley 액상 세포학 및 SIPaKMeD 데이터셋에 대한 실험에서 제안된 방법은 전자에서 99.48%, 후자에서 96.08%의 정확도를 달성하며, 재현율(recall), 정밀도(precision), 전반적인 분류 성능에서 균형 잡힌 향상을 보였다. 시각적 분석은 학습된 사전 분포가 진단적으로 관련 있는 세포 영역을 강조함을 추가로 보여주며, 제안된 프레임워크가 자궁경부 세포학을 위한 검진 지향 의사결정 지원 도구로서의 잠재력을 입증한다.
집중 학습: 의료 이미지 분류를 위한 해부학 유도 어텐션 정규화
Learning To Focus: Anatomy-Guided Attention Regularization for Medical Image Classification
의료 이미지 분류 모델은 예측 시 진단적으로 관련된 영역을 식별하는 것이 이상적으로 기대되지만, 표준 분류 손실은 공간적 감독을 거의 제공하지 않는다. 과제 관련 해부학의 분할 마스크와 같은 해부학적 형태 정보를 통한 명시적 감독은 네트워크를 목표 예측에 관련된 영역으로 유도하는 것으로 나타났다. 그러나 이러한 마스크를 획득하는 데는 상당한 수동 어노테이션 노력과 계산 오버헤드가 수반된다. 다양한 영상 모달리티에서 해부학적 구조를 강력하게 위치 파악하는 분할 파운데이션 모델의 등장으로, 우리는 전용 분할 모델을 학습하는 부담 없이 해부학적 형태 사전 정보를 추출하기 위해 이 능력을 활용한다. 본 논문에서는 사전학습된 분할 파운데이션 모델을 활용하여 다양한 영상 모달리티에서 분류기의 어텐션을 진단적으로 의미 있는 해부학적 구조로 유도하는 해부학적 어텐션 정규화 프레임워크인 Locus를 제안한다. 파운데이션 모델에서 도출된 마스크와의 픽셀 단위 정렬을 강제하는 대신, 해부학적(전경) 영역과 배경 영역 사이의 어텐션을 적응적으로 균형 조정하는 정규화 항을 도입하여 배경 어텐션이 지배적일 때 분류기에 페널티를 부여한다. 우리는 피부경검사, X선, 조직병리학, 심장 MRI를 포괄하는 8개의 다양한 의료 영상 데이터셋에서 Locus를 검증하여, 향상된 해부학적 근거 어텐션과 함께 분류 성능의 일관된 향상을 보여준다.
이미지 분류를 위한 앙상블 집계 기반 코어셋 선택 프레임워크
A Coreset Selection Framework with Ensemble Aggregation for Image Classification
이미지 데이터의 급격한 증가로 대규모 데이터셋이 생성되면서, 모델 학습에 소요되는 시간 및 메모리 비용에 대한 우려가 커지고 있다. 그러나 대표적인 학습 서브셋을 선택하는 것은 여전히 어려운 과제인데, 개별 샘플의 기여도가 불분명하고 모델 동작이 데이터셋 및 실행에 따라 달라지기 때문이다. 우리는 코어셋 선택과 여러 실행에 걸친 앙상블 집계를 결합한 프레임워크로 이러한 문제를 해결한다. 코어셋 선택을 위해, 선택된 점수를 기반으로 학습 데이터를 구간으로 분할하고 각 구간에서 샘플링하는 SCOre-Stratified Selection(SCOSS)을 제안한다. 앙상블은 독립적으로 샘플링된 학습 서브셋에서 각각 수행된 여러 실행의 예측을 결합한다. 기준선으로는 원본 버전과 클래스 균형 버전을 각각 가진 적당한(moderate) 선택과 무작위 선택을 사용한다. 우리는 서로 다른 샘플링 비율 하에서 Simple Graph Convolution(SGC)과 서포트 벡터 머신(SVM) 분류기로 프레임워크를 평가한다. 실험 결과, SCOSS는 기준선과 경쟁력 있으며 SGC에 있어 종종 최선의 선택이고, 정확도와 효율성 간의 유리한 트레이드오프를 가능하게 한다. 세밀한(fine-grained) 데이터셋에서는 레이블된 샘플을 더 적게 사용할 때 SCOSS를 적용한 SGC가 SVM을 능가한다. 코드와 보충 자료는 http://scoss.lucasvalem.com에서 공개적으로 이용 가능하다.
대규모 언어 모델과 그래프 합성곱 네트워크를 결합한 준지도 이미지 분류
Integrating Large Language Models and Graph Convolutional Networks for Semi-Supervised Image Classification
이미지 데이터의 증가하는 가용성이 상당한 발전을 이끌어왔지만, 데이터셋 레이블링은 여전히 비용이 많이 들고 시간 소모적이다. 이에 따라 레이블된 데이터와 레이블되지 않은 데이터 모두에서 학습하는 그래프 합성곱 네트워크(GCN)와 같은 준지도 방식이 유망한 해결책으로 부상하고 있다. GCN을 이미지 분류에 적용할 때의 주요 과제 중 하나는 그래프 구성이다. 인용 네트워크나 유사한 도메인과 달리, 이미지는 일반적으로 사전 정의된 구조적 표현을 가지지 않기 때문이다. 시각 데이터의 경우, 대부분의 연구는 사전학습된 심층 학습 백본에서 추출한 특징 벡터 간의 유사도를 기반으로 그래프를 구성하며, 일반적으로 kNN 또는 상호 kNN 알고리즘을 활용한다. 대규모 언어 모델(LLM)이 고수준 의미론을 포착하는 데 뛰어난 능력을 보여주었음에도 불구하고, 이미지 분류를 위한 GCN과의 통합은 아직 충분히 탐구되지 않았다. 이 공백을 채우고자, 본 접근법은 비전-언어 모델(VLM)을 활용하여 이미지의 텍스트 설명을 생성하고, 이를 LLM이 처리하여 연결된 이미지 간의 의미론적 유사도 점수를 추정한다. 이 점수는 kNN 및 상호 kNN 그래프에서 엣지를 가지치기하는 데 활용되어 의미론적으로 무관한 이웃을 필터링한다. 실험 결과, 그래프 정제를 위해 LLM을 활용하면 특히 kNN 그래프와 일부 백본에서 분류 정확도가 향상될 수 있음이 밝혀졌다. 소스 코드는 http://gcnllm.lucasvalem.com 에서 공개적으로 이용 가능하다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.