신경 에코: 신경망 이해를 위한 신호 처리 관점
The Neural Echo: A Signal Processing Perspective for Understanding Neural Networks
한국어 초록
본 논문에서는 신경망(neural network)의 동작을 이해하기 위한 도구로 신경 에코(neural echo)를 소개합니다. 이는 임펄스 응답, 확산 에코, 필터 에코와 같은 모델 기반 개념을 학습 기반 방식으로 일반화합니다. 신경 에코는 신경망에 대해 이른바 에코라 불리는 국소적이고 공간 적응적인 임펄스 응답 및 필터 커널을 제공합니다. 이러한 에코는 입력 이미지에 의존하며, 아핀 매핑(affine mapping)을 통해 시각화되어 네트워크의 학습된 동역학을 이해할 수 있게 합니다. 신경 에코는 고전적인 신호 처리와 현대의 설명 가능한 AI를 연결하는 가교 역할을 합니다. 이 방식은 매우 범용적이어서, 최신 트랜스포머(transformer) 네트워크를 포함해 합성곱 또는 완전 연결 구조, 피드포워드 또는 순환형 유형의 이미지-투-이미지 및 분류(classification) 네트워크 모두에 적용할 수 있습니다. 네트워크의 미분 가능성은 요구되지 않습니다. 미분 가능한 경우, 신경 에코는 돌출 맵(saliency map)이나 적대적 섭동 분석과 같은 네트워크 야코비안(Jacobian) 기반 개념들을 특수한 사례로서 포함합니다. 프레임워크를 설명하기 위한 간단한 청사진으로서 잡음 제거 합성곱 신경망(DnCNN)에 대한 신경 에코를 유도합니다. 실험을 통해 이 네트워크가 공간적 거리와 명도값 거리를 기반으로 픽셀에 가중치를 부여함을 시사합니다. 이는 네트워크의 동작을 명확히 할 뿐만 아니라, 양방향 필터링(bilateral filtering)과 같은 고전적 모델 기반 디노이저의 핵심 개념을 재현할 수 있음을 보여줍니다.
원문 초록
We introduce the neural echo as a tool for understanding the behavior of neural networks. It generalizes the model-based concepts of impulse responses, diffusion echoes, and filter echoes to learning-based methods. It provides local, space-adaptive impulse responses and filter kernels for a neural network, its so-called echoes. These echoes depend on the input image and can be visualized to understand the learned dynamics of the network via an affine mapping. Neural echoes build a bridge from classical signal processing to modern explainable AI. They are very general and can be applied to both image-to-image and classification networks, with convolutional or fully connected structure, of feedforward or recurrent type, including modern transformer networks. Network differentiability is not required. In the differentiable case, neural echoes comprise concepts based on the network Jacobian, such as saliency maps and the analysis of adversarial perturbations, as special instances. As a simple blueprint to explain our framework, we derive neural echoes for the denoising convolutional neural network (DnCNN). Our experiments suggest that this network weights pixels based on their spatial and gray value distances. This not only clarifies its behavior, but also shows that it can reproduce key concepts of classical model-based denoisers such as bilateral filtering.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2608.04864v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.