arXiv:2606.17646v1 cs.HC

SketchXplain: 스케치를 활용한 이미지 분류기의 직관적인 시각적 설명

SketchXplain: Intuitive Visual Explanations of Image Classifiers with Sketches

Wencan Zhang, Mario Michelessa, Xuejun Zhao, Brian Y. Lim

제출 2026-06-16

한국어 초록

살리언시 맵(saliency map) 시각화는 영역을 지정하여 이미지 기반 AI 예측을 설명하지만, 이는 종종 비직관적이고 의미적으로 불명확하여 해석 가능성 격차를 남깁니다. 우리는 AI 설명이 직관적이어야 한다고 주장합니다. 즉, 사용자 지식과 일관되면서도 해석을 가속화하기 위해 단순하고 선택적이어야 합니다. 예술적 드로잉에서 영감을 받아, 우리는 직관적인 이미지 기반 설명 가능한 AI(XAI)를 위한 스케치 기반 시각적 설명을 생성하는 SketchXplain을 제안합니다. 살리언시 맵, 개념 병목 모델(concept-bottleneck models), 스케치 최적화의 기법을 결합하여, SketchXplain은 일관된 관찰 요소를 선택하기 위해 살리언시를 통합하고, 지식의 일관성을 위한 개념, 이를 나타내는 단서, 그리고 단순성을 위한 추상화를 통합합니다. 얼굴 표정 인식에 대한 평가에서, 모델링 및 사용자 연구는 SketchXplain이 살리언시 맵이나 단순한 그림보다 더 부합하는 시각화로 더 빠른 해석을 지원했음을 보여주었습니다. 피부 병변 진단에 대한 추가 평가에서는 SketchXplain이 질병 증상을 더 일관되게 시각화하여 비전문가 진단을 더 잘 지원함을 발견했습니다. 따라서 이 연구는 직관적이고, 단순하며, 일관되고, 빠른 이미지 기반 XAI 시각화를 위한 스케치의 가치를 보여줍니다.

원문 초록

Saliency map visualizations explain image-based AI predictions by pointing to regions, but these are often unintuitive and semantically unclear, leaving an interpretability gap. We argue that AI explanations should be intuitive -- coherent to user knowledge, yet simple and selective to accelerate interpretation. Inspired by artistic drawings, we propose SketchXplain to generate sketch-based visual explanations for intuitive image-based explainable AI (XAI). Combining techniques in saliency maps, concept-bottleneck models, and sketch optimization, SketchXplain integrates saliency to select coherent observation artifacts, concepts for knowledge coherence, cues to represent them, and abstraction for simplicity. Evaluating on face expression recognition, modeling and user studies showed that SketchXplain supported quicker interpretation with more aligned visualizations than saliency maps or simple drawings. Further evaluation on skin lesion diagnosis found that SketchXplain more coherently visualized disease symptoms, better supporting lay diagnosis. Thus, this work illustrates the value of sketches for intuitive, simple, coherent, and quick image-based XAI visualizations.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.17646v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.09164v2cs.CV공통 태그 Image Classification, saliency maps

어떤 픽셀이 충분한가? SEAMS: MSE 보존 소프트 마스크를 통한 충분성 살리언시

What Pixels Are Enough? SEAMS: Sufficiency Saliency via MSE-Preservation Soft-Masks

살리언시 맵(saliency map)은 모델의 동작을 보존하기에 충분한 이미지 영역을 식별할 때 가장 유용하다. 우리는 보존 목적 함수를 사용하여 소프트 마스크를 직접 최적화하는 충분성 기반 살리언시 방법인 SEAMS를 소개한다. 클래스 확률, CLS 임베딩, 또는 토큰 표현과 같이 고정된 미분 가능한 모델 출력이 주어지면, SEAMS는 선택된 출력을 보존하는 컴팩트한 마스크를 탐색한다. 이 접근법은 소프트 마스크, 학습 가능한 버짓(budget), 그리고 쿼리 이미지만으로 생성된 3방향 이미지 합성에 기반한 단순한 최적화 프레임워크에 의존한다. 그 결과, 보조 방해 데이터셋, 아키텍처별 귀인 메커니즘, 또는 미분 가능한 top-k 완화가 필요하지 않다. 고정된 ViT-S/16 및 ConvNeXt 모델을 이용한 실험에서, 동일한 최적화 파이프라인이 보존 대상만 변경함으로써 객체 수준, 클래스 조건부, 토큰 수준 설명을 생성할 수 있음을 보인다. 결과 마스크는 컴팩트하고 해석 가능하며, 무작위 초기화에 걸쳐 안정적이고, 삽입 및 삭제 벤치마크에서 경쟁력 있는 성능을 보인다. 또한 우리의 결과는 서로 다른 아키텍처가 유사한 보존 충실도를 달성하면서도 종종 서로 다른 충분한 증거에 의존함을 나타내며, 이는 시각적 설명의 아키텍처 의존적 특성을 부각시킨다.

arXiv:2607.24730v1cs.CV공통 태그 Image Classification, saliency maps

KANEx: Kolmogorov-Arnold Networks의 해석 가능성을 의학적 설명 가능성으로 전환

KANEx: Translating Kolmogorov-Arnold Networks' Interpretability to Medical Explainability

컴퓨터 비전(CV) 모델은 의료 응용 분야에서 매우 효과적이 되었지만, 블랙박스 특성은 여전히 임상의의 신뢰를 약화시키고 있다. 임상 워크플로에서 흉부 X-ray 분류기는 자연어 설명을 생성하기 위해 비전-언어 모델(VLM)과 점점 더 많이 결합되고 있다. 그러나 이러한 시스템은 시각 모델의 근본적인 불투명성을 해결하지 않은 채 언어적 유창성만을 추가한다. 스플라인 기반 구성 요소가 본질적으로 해석 가능한 함수 단위를 제공하는 Kolmogorov-Arnold Networks(KAN)의 등장과 함께, 우리는 이러한 아키텍처적 투명성을 활용하여 더 신뢰할 수 있는 텍스트 설명을 생성할 수 있는지 조사한다. 우리는 KAN의 기호적 투명성을 활용하여 VLM 추론을 그라운딩하는 최초의 프레임워크인 KANEx를 제안한다. 이 해석 가능성은 또한 그래디언트 근사가 아닌 KAN 모델에서 직접 유도된 새로운 히트맵 생성 방법인 KAN-Map을 설계할 수 있게 했다. 우리는 향상된 설명 가능성을 위해 이러한 그라운딩된 컨텍스트를 다운스트림 VLM에 입력한다. MIMIC-CXR 데이터셋에서 벤치마크한 결과, ResNet/ViT 베이스라인을 갖춘 KAN 기반 아키텍처가 의미적 유사도를 향상시키는 동시에 훨씬 더 충실한 saliency map을 생성함을 보여준다. KAN 아키텍처는 시각적 국소화와 다운스트림 추론 품질을 10% 향상시킨다. 우리의 발견은 언어적 설명과 시각적 귀속(attribution)을 수학적으로 해석 가능한 단위에 그라운딩하는 것이 신뢰할 수 있는 의료 AI를 향한 필수적인 단계임을 시사한다.

arXiv:2607.12075v3eess.IV공통 태그 Image Classification

데이터셋 이동 하에서 갑상선 결절 초음파 분류를 위한 딥 앙상블 기반 보정된 선택적 예측

Calibrated selective prediction using deep ensembles for thyroid nodule ultrasound classification under dataset shift

배경: 딥러닝은 초음파에서 갑상선 결절을 분류할 수 있으나, 판별 성능만으로는 임상적 신뢰성이 확립되지 않는다. 우리는 불확실성 인지 선택적 예측과 보수적인 영상 기반 선별을 갖춘 보정된 딥 앙상블 프레임워크를 개발하였다. 방법: 3겹 내부 아키텍처 선택을 포함한 중첩 5겹 교차 검증으로 squeeze-and-excitation 블록을 갖춘 ConvNeXt-Tiny를 선택하였고, 이를 이용해 결정론적 5개 구성원 앙상블을 구축하였다. 각 폴드 내에서 학습, 조기 종료, 보정, 임계값 부분집합을 분리하였으며, 외부 테스트 데이터는 격리된 상태로 유지하였다. 상호 정보량(MI), 예측 분산, 최대 소프트맥스 확률(MSP) 불확실성을 위험-커버리지 및 선별 분석과, 가정한 악성 유병률 5%-70%에 걸친 예측값으로 비교하였다. 고정된 TN5000 앙상블을 재보정 없이 TN3K에 적용하였다. 결과: TN5000에서 풀링된 out-of-fold AUC-ROC는 0.9377, 평균 정밀도는 0.9708, 기대 보정 오차는 0.0138, Brier 점수는 0.0827이었다. MI 기반 주 정책에서 영상의 8.86%가 No-FNA 제안을, 60.00%가 FNA 권고를, 31.14%가 영상의학과 의사 검토를 받았으며, 악성 영상 3574건 중 14건(0.39%)이 No-FNA, 708건(19.81%)이 검토를 받았다. 예측 분산과 MSP가 MI보다 오류를 더 잘 순위화하였고(AURC, AUGRC), 모든 선별 결과를 최적화한 척도는 없었다. 유병률 5%-70% 전반에서 NPV는 99.95%-97.93%, PPV는 29.28%-94.75%였다. TN3K에서 AUC-ROC는 0.7870, 평균 정밀도는 0.7254, 기대 보정 오차는 0.1899, 영상의학과 의사 검토율은 83.7%였다. 결론: 앙상블은 내부적으로 강한 판별 및 보정 성능을 보였으나 TN3K에서는 성능이 크게 저하되어, 데이터셋 이동 하에서 이식성이 제한적임을 나타냈다. 임상 사용 전에 다기관 검증, 기관별 재보정, 임계값 검증, 전향적 평가가 필요하다.

arXiv:2609.27710v3cs.CV공통 태그 Image Classification

FFM-CP: 퓨샷 계산병리학을 위한 비전-언어 기반 모델의 교차 백본 융합

FFM-CP: Cross-Backbone Fusion of Vision-Language Foundation Models for Few-Shot Computational Pathology

병리학 비전-언어 기반 모델은 질환과 과제에 따라 성능이 달라지며, 어떤 단일 모델도 일관되게 최고 성능을 내지 못한다. 전문가 병리 주석의 높은 비용은 과제별 적응에 사용할 수 있는 라벨 데이터를 제한하기도 한다. 상호 보완적인 사전학습 표현을 결합하는 것은 이러한 한계에 대한 잠재적 접근이지만, 소수의 라벨 예시로부터 효과적인 융합을 학습하는 것은 여전히 어렵다. 본 연구는 퓨샷 학습 설정에서 여러 병리학 비전-언어 모델을 결합하는 프레임워크인 Few-shot Fusion Foundation Models of Computational Pathology(FFM-CP)를 제안한다. 이 프레임워크는 먼저 대응하는 서포트 이미지로부터 추정한 폐형식(closed-form) 직교 프로크루스테스(Orthogonal Procrustes) 변환을 사용하여 이질적인 표현을 정렬한다. 이 정렬은 추가 정렬 네트워크를 학습하지 않고도 모델 내부 특징 기하를 보존한다. 정렬된 공간 안에서 통합 그래프는 서포트 이미지 특징과 시각·텍스트 클래스 프로토타입을 공동으로 정제함으로써 백본 간 정보 교환을 가능하게 한다. 이렇게 정제된 표현은 의미적 클래스 지식과 클래스 내 시각적 변이를 각각 포착하는 상호 보완적인 텍스트-프로토타입 분기와 케이스 검색(case-retrieval) 분기를 지원한다. 각 분기는 모든 순서화된 백본 쌍의 예측을 결합하는 방법을 학습하여, 한 모델로 인코딩된 쿼리가 다른 모델이 표현한 증거를 활용할 수 있게 한다. 우리는 6개의 조직병리학 데이터셋에서 클래스당 4, 8, 16샷 조건으로 3가지 백본 조합을 평가했다. FFM-CP는 54번 비교 중 50번에서 각 융합 집합의 개별 적응 멤버 중 가장 강한 모델보다 더 높은 평균 macro-F1을 달성했다. 이러한 결과는 주석이 제한될 때 상호 보완적인 사전학습 표현의 결합이 조직병리학 분류를 개선할 수 있음을 시사한다.

arXiv:2607.22149v2cs.LG공통 태그 Image Classification

공정한 자기지도 학습을 위한 편향 없는 Open World 정규화

Unbiased Open World Regularization for Fair Self-Supervised Learning

최근의 발전에도 불구하고 자기지도 학습(SSL) 모델과 결합 임베딩 예측 아키텍처(JEPA)는 여전히 허위 상관관계에 취약하다. 많은 붕괴 방지 정규화 기법은 전역 표현 분포가 다변량 가우시안이나 구면 위의 균등분포와 같이 미리 정해진 목표 분포와 일치하도록 제약한다. 그러나 전역 분포 일치는 편향 속성으로 정의되는 집단들이 표현 공간의 서로 다른 영역을 차지하는 것을 막지 못한다. 본 논문은 EnD와 FSCL을 포함한 기존의 인코더 기반 편향 제거 정규화 기법이 조건부 분포 일치의 제한된 형태로 해석될 수 있음을 보인다. 이러한 해석을 바탕으로, 관측된 각 편향 집단 내부의 표현 분포를 공통의 목표 분포에 일치시키는 Unbiased Open World(UOW)를 제안한다. 모집단 최적해에서 판별적 조건부 불일치도를 사용하면 표현과 대상 속성 사이의 독립성이 보장된다. 우리는 UOW를 가우시안 공간과 구면 공간에서 구현하고, 통제된 합성 환경과 실제 공정성 벤치마크에서 평가한다. Synthetic Engraving, Colored MNIST, CelebA, Waterbirds 전반에서 조건부 일치는 유용한 하위 작업용 표현을 보존하면서도 전역 정규화에 비해 편향을 크게 줄인다. 여러 편향 속성을 함께 조건화하면 개별 주변 제약으로는 놓치는 교차적 격차도 추가로 줄어든다. 마지막으로 CelebA 실험은 공정성을 고려한 검증 기준에 따라 체크포인트를 선택한다면 UOW를 사전학습 목적함수로 사용하여 무작위 초기화에서부터 모델을 학습할 수 있음을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.