PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.23919v1eess.IV

VGG16-MCA UNet: 디코더 측 채널 어텐션을 활용한 2D FLAIR MRI 전체 종양 분할

VGG16-MCA UNet: Whole-Tumor Segmentation in 2D FLAIR MRI with Decoder-Side Channel Attention

자동 뇌종양 분할(segmentation)은 진단, 치료 계획 수립, 질병 진행 모니터링을 지원하지만, 이질적인 종양과 제한된 주석 데이터 전반에 걸쳐 일반화되는 모델을 구축하는 것은 여전히 어려운 과제이다. 본 논문에서는 ImageNet으로 사전학습(pre-training)된 VGG16 인코더와, 각 스킵 연결(skip-connection) 융합 이후 다중 채널 어텐션(Multi-Channel Attention, MCA) 모듈이 특징을 재보정하는 디코더를 결합한 하이브리드 아키텍처인 VGG16-MCA UNet을 제안한다. 이 모델은 심각한 전경-배경 불균형에 대응하기 위해 Focal Tversky 손실(loss)로 학습된다. 본 모델은 BraTS 2020 벤치마크와 LGG MRI Segmentation 데이터셋(dataset)이라는 두 개의 공개 데이터셋에서 종양이 존재하는 슬라이스를 대상으로, 2D, FLAIR 단일 시퀀스 전체 종양 분할기로서 평가된다. 5겹 교차 검증(cross-validation)과 다섯 개 폴드(fold) 모델의 가중치를 평균하여 형성한 단일 네트워크를 사용하여, 본 방법은 홀드아웃(held-out)한 BraTS 2020 분할(split)에서 95.10%, LGG에서 88.32%의 집계 픽셀 수준 Dice(F1) 점수를 달성하였다. 이 점수는 사례별로 평균을 낸 것이 아니라 모든 테스트 픽셀을 단일 혼동 행렬(confusion matrix)로 통합하여 계산된 것이므로, BraTS 챌린지 프로토콜에서 사용하는 사례별 평균 Dice와 직접 비교할 수 없다. 모든 분할(partition)은 환자 단위가 아니라 개별 슬라이스 단위로 나뉘었으므로, 모든 환자가 학습과 테스트 양쪽에 슬라이스를 제공한다. 따라서 위의 수치는 이미 알려진 환자 내에서의 보간(interpolation)을 측정한 것이며, 새로운 환자에 대한 일반화가 아니라 상한선(upper bound)으로 해석되어야 한다. 본 모델은 6GB NVIDIA RTX 2060 단일 GPU에서 256x256 슬라이스를 66.32ms에 분할하며, 이는 MCA가 없는 동등한 VGG16-UNet보다 약 8ms 더 긴 시간이다. 우리는 정확하게 명시되고 재현 가능한 2D FLAIR 기준선(baseline)을 제공하기 위해, 분할(split) 기록을 공개하고 프로토콜을 전체적으로 보고한다.

arXiv:2412.09023v3cs.CV

STEAM: Squeeze and Transform Enhanced 어텐션 모듈

STEAM: Squeeze and Transform Enhanced Attention Module

기존 연구에서 도입된 채널 및 공간 어텐션 메커니즘은 심층 합성곱 신경망(CNN)의 표현 능력을 향상시키지만, 종종 매개변수와 계산 비용을 증가시킵니다. 최근 접근 방식들은 채널 어텐션을 위한 효율적인 특징 컨텍스트 모델링에만 초점을 맞추는 반면, 우리는 최소한의 매개변수와 감소된 연산으로 채널 및 공간 어텐션을 모두 포괄적으로 모델링하는 것을 목표로 합니다. 그래프 내 관계형 모델링의 원리를 활용하여, 우리는 채널 및 공간 어텐션을 통합하여 CNN의 표현력을 향상시키는 상수 매개변수 모듈인 \textit{STEAM: Squeeze and Transform Enhanced Attention Module}을 소개합니다. 우리의 지식에 따르면, 우리는 멀티헤드 그래프 트랜스포머의 개념을 활용하여 채널 및 공간 어텐션을 모두 모델링하는 그래프 기반 접근 방식을 최초로 제안합니다. 또한, 공간 어텐션을 더욱 향상시키기 위해 공간 컨텍스트를 효율적으로 포착하는 \textit{Output Guided Pooling} (OGP)을 소개합니다. 우리는 표준 벤치마크 데이터셋에서 대규모 이미지 분류, 객체 검출 및 인스턴스 분할을 위해 STEAM을 광범위하게 평가합니다. STEAM은 GFLOPs의 미미한 증가만으로 표준 ResNet-50 모델 대비 정확도를 2% 향상시킵니다. 더 나아가, STEAM은 GFLOPs를 3배 감소시키면서도 정확도 측면에서 선도적인 모듈인 ECA 및 GCT를 능가합니다. 코드는 수락 시 공개될 예정입니다.