MultiAttenGastro: 위장관 내시경 분류를 위한 다차원 어텐션 증강
MultiAttenGastro: Multi-Dimensional Attention Augmentation for Gastrointestinal Endoscopy Classification
한국어 초록
자동화된 위장관(GI) 내시경 분류는 종종 자연 이미지 사전학습(pretraining)과 큰 차이를 보이는 다양한 모달리티와 클래스 분포 전반에 걸쳐 일반화할 수 있는 모델을 필요로 합니다. 본 논문에서는 병렬 1차원 채널, 2차원 공간, 3차원 문맥 헤드를 갖춘 플러그 앤 플레이 방식의 어텐션(attention) 프레임워크인 MultiAttenGastro를 제안하고, 5개의 공개 GI 데이터셋(dataset)에서 8개의 CNN 및 트랜스포머(transformer) 백본을 대상으로 최초의 체계적인 교차 데이터셋 평가(80회의 백본-데이터셋 실행)를 제시합니다. 연구 결과 어텐션의 효과는 보편적이지 않으며 ImageNet 피처와 타깃 분포 간의 표현 격차(representational gap)를 따르는 것으로 나타났습니다. 즉, MultiAttenGastro는 Kvasir-Capsule(14개 클래스 WCE, 큰 격차, 최고 매크로 F1 98.33%)에서 8개 백본 중 6개를 향상시켰으나, 격차가 작은 Kvasir-v2 벤치마크에서는 일관되게 부정적인 결과(0/8)를 보였고, 중간 정도의 격차를 가진 데이터셋에서는 엇갈린 결과를 보였습니다. 가장 효과가 컸던 사례(Kvasir-Capsule, ConvNeXt-Tiny)에 대한 5개 시드(seed) 아블레이션 분석 결과, 이러한 향상은 방향성 측면에서는 일관되지만 통계적으로 결정적이지는 않았으며(대응표본 $t$ 검정: $p=0.47$, 윌콕슨 검정: $p=0.63$), 개별 어텐션 헤드는 단독으로는 균일하게 유익하지 않고 이들의 조합만이 긍정적인 평균 효과를 내는 것으로 나타났습니다. 중심화 커널 정렬(CKA) 분석은 이 패턴을 표현 중복성(representational redundancy)과 연결짓습니다. 도메인 격차가 클 때 낮은 헤드 간 CKA는 프레임워크의 유일하게 일관된 성능 향상과 일치하는 반면, 격차가 작을 때의 높은 중복성은 성능 저하와 일치합니다. 우리는 MultiAttenGastro가 엄격하게 우월한 아키텍처적 선택이라는 주장보다는, 다차원 어텐션이 GI 내시경 분류에 언제, 왜 도움이 되는지에 대한 증거로서 유의하지 않은 차이를 포함한 이러한 결과를 보고합니다.
원문 초록
Automated gastrointestinal (GI) endoscopy classification requires models that generalize across diverse modalities and class distributions, often far from natural-image pretraining. We propose MultiAttenGastro, a plug-and-play attention framework with parallel 1-D channel, 2-D spatial, and 3-D contextual heads, and present the first systematic cross-dataset evaluation across eight CNN and transformer backbones on five public GI datasets (80 backbone--dataset runs). We find that attention effectiveness is not universal but tracks the representational gap between ImageNet features and the target distribution: MultiAttenGastro improves 6 of 8 backbones on Kvasir-Capsule (14-class WCE, large gap; best macro F1 98.33\%), is uniformly negative on the small-gap Kvasir-v2 benchmark (0/8), and shows mixed outcomes on datasets with intermediate gap. Five-seed ablation on the strongest case (Kvasir-Capsule, ConvNeXt-Tiny) shows this improvement is directionally consistent, but not statistically decisive (paired $t$: $p=0.47$; Wilcoxon: $p=0.63$), and that individual attention heads are not uniformly beneficial in isolation only their combination yields a positive mean effect. Centered Kernel Alignment (CKA) analysis links this pattern to representational redundancy: low inter-head CKA under large domain gaps coincides with the framework's only consistent gains, while high redundancy under small gaps coincides with its losses. We report these results, including the non-significant margins, as evidence for when and why multi-dimensional attention helps GI endoscopy classification, rather than as a claim that MultiAttenGastro is a strictly superior architectural choice.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2609.05070v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.