How to Squeeze An Explanation Out of Your Model
원문 초록
Deep learning models are widely used nowadays for their reliability in performing various tasks. However, they do not typically provide the reasoning behind their decision, which is a significant drawback, particularly for more sensitive areas such as biometrics, security and healthcare. The most commonly used approaches to provide interpretability create visual attention heatmaps of regions of interest on an image based on models gradient backpropagation. Although this is a viable approach, current methods are targeted toward image settings and default/standard deep learning models, meaning that they require significant adaptations to work on video/multi-modal settings and custom architectures. This paper proposes an approach for interpretability that is model-agnostic, based on a novel use of the Squeeze and Excitation (SE) block that creates visual attention heatmaps. By including an SE block prior to the classification layer of any model, we are able to retrieve the most influential features via SE vector manipulation, one of the key components of the SE block. Our results show that this new SE-based interpretability can be applied to various models in image and video/multi-modal settings, namely biometrics of facial features with CelebA and behavioral biometrics using Active Speaker Detection datasets. Furthermore, our proposal does not compromise model performance toward the original task, and has competitive results with current interpretability approaches in state-of-the-art object datasets, highlighting its robustness to perform in varying data aside from the biometric context.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
활성 화자 탐지(ASD) 재조명: 일반화와 강건성을 위한 실제 환경(in-the-wild) 벤치마크
Revisiting Active Speaker Detection: An In-the-Wild Benchmark for Generalization and Robustness
우리는 활성 화자 탐지(ASD) 작업에서 모델의 일반화 성능을 높이기 위해 도전적인 시나리오를 강조하는 새로운 데이터셋인 UniTalk를 소개합니다. AVA와 같은 기존 벤치마크는 주로 오래된 영화로 구성되어 있어 실제 환경 비디오와 상당한 도메인 격차를 보입니다. 이와 대조적으로, UniTalk는 언어 표현이 부족한 경우, 노이즈가 있는 배경, 혼잡한 장면 등 도전적인 실제 환경 조건을 반영하는 다양한 비디오 유형을 아우르면서도 규모 면에서는 AVA와 대등합니다. 광범위한 평가 결과, ASD는 현실적인 조건에서 여전히 해결되지 않은 문제임이 밝혀졌습니다. AVA에서 거의 완벽한 성능을 보이는 최첨단(SOTA) 모델들조차 UniTalk에서는 성능 포화에 도달하지 못했습니다. 반대로, UniTalk로 학습된 모델은 Talkies와 ASW를 포함한 최신 실제 환경(in-the-wild) 데이터셋에 대해 더 우수한 일반화 성능을 보였습니다. 이에 따라 UniTalk는 ASD를 위한 새로운 벤치마크를 수립하여, 연구자들이 다재다능하고 강건한 모델을 개발하고 평가할 수 있는 귀중한 자원을 제공합니다.
CoGenAV: Versatile Audio-Visual Representation Learning via Contrastive-Generative Synchronization
LASER: Lip Landmark Assisted Speaker Detection for Robustness
ASDnB: Merging Face with Body Cues For Robust Active Speaker Detection
BIAS: A Body-based Interpretable Active Speaker Approach
FabuLight-ASD: Unveiling Speech Activity via Body Language
토론
이 논문과 연결된 포럼 글이 아직 없습니다.