arXiv:2611.23161v1 cs.CV

디코더를 통한 기여도 산정: 구조화된 출력의 예측 공간 설명

Attribution Through the Decoder: Prediction-Space Explanations for Structured Outputs

Zaer Bin Zaqy, Brinnae Bent

제출 2026-11-18

한국어 초록

각도, 시선 방향, 회전을 예측하는 신경망은 원시 좌표를 출력하고, 정규화 같은 고정 디코더가 이를 최종 예측값으로 변환한다. 기여도 산정 방법을 원시 좌표에 적용하는 경우가 많아, 디코더에서 사라지는 변화에도 입력의 기여를 부여할 수 있다. 예를 들어 벡터의 방향만 중요할 때 크기를 바꾸는 변화가 이에 해당한다. 그 결과 예측에 영향이 없는 입력이 중요한 것처럼 표시될 수 있다. 우리는 디코더의 미분을 거쳐 기여도를 산정한다. 정규화 디코더에서는 이 미분이 스케일을 곱한 접공간 투영으로 단순화된다. 출력의 스케일을 바꿔도 결과가 유지되는 조건을 분석하고, 구면의 모든 고정된 매끄러운 스칼라 목표 함수에는 접선 방향 민감도가 0인 점이 있음을 보인다. 종점에 투영하는 통합 그래디언트 변형은 크기에만 영향을 주는 입력에 기여도를 부여할 수 있는 반면, 각도에 직접 적용하는 통합 그래디언트는 그렇지 않음을 보인다. 관련성을 해석적으로 알 수 있는 합성 과제에서 주변 공간의 기여도 산정은 전체 기여도의 최대 72%를 관련 없는 영역에 할당했다. MPIIGaze 검증 데이터에서 픽셀 10%를 삭제했을 때 접공간 Grad-CAM은 예측값을 44% 더 크게 이동시켰다. 6차원 회전 디코더를 사용하는 PASCAL3D+에서는 전체 미분을 적용했을 때 픽셀 삭제에 따른 평균 이동량이 주변 공간의 좌표 합보다 14.1도, 디코더에 대해 불변인 스칼라보다 13.8도 커졌다. 두 극성을 사용하는 접공간 LayerCAM 변형의 결과는 과제에 따라 달랐다. 원형 회귀에서는 주변 공간의 합을 쓰는 LayerCAM보다 앞섰으나, 쿼터니언 자세 추정에서는 차이가 검출되지 않았다. 이 결과는 반지름 방향 성분의 혼입과 스칼라화에 따른 정보 손실이라는 두 실패 원인을 구별한다. 이 접근법은 기존 기여도 산정 방법에 디코더를 고려한 목표를 적용한다. 일부 변형에서는 기여도 집계 방식도 바꿔야 한다. 불변성을 갖춘 기여도 산정도 예측을 움직이는 입력을 놓칠 수 있으므로 불변성과 삭제 평가 성능을 각각 확인해야 한다.

원문 초록

Networks that predict angles, gaze directions, and rotations do not output these quantities directly: they emit raw coordinates that a fixed decoder, such as normalization, maps to the final prediction. Attribution methods are usually applied to the raw coordinates, so they can credit inputs for changes the decoder discards, such as rescaling a vector when only its direction matters. The resulting explanation can highlight inputs that have no effect on the prediction. We instead attribute through the decoder differential, which for normalization decoders reduces to a scaled tangent projection. We characterize invariance to output rescaling, show that every fixed smooth scalar target on a sphere has points of zero tangential sensitivity, and show that an endpoint-projected variant of Integrated Gradients can still attribute to scale-only inputs, whereas direct angular Integrated Gradients cannot. On synthetic tasks with analytically known relevance, ambient attribution assigns up to 72% of its mass to an irrelevant region. On MPIIGaze validation data, tangent Grad-CAM produces 44% greater prediction displacement under 10% pixel deletion. On PASCAL3D+ with a 6D rotation decoder, the full differential improves mean deletion displacement by 14.1 degrees over the ambient coordinate sum and by 13.8 degrees over a decoder-invariant scalar. Results for a two-polarity tangent LayerCAM variant are mixed: it exceeds ambient-sum LayerCAM on circular regression but no difference is detected on quaternion pose. These results separate two failure sources, radial contamination and scalarization loss. The approach uses existing attribution methods with decoder-aware targets, although some variants also require changes to attribution aggregation. An invariant attribution can still miss inputs that drive the prediction, so invariance and deletion performance should each be checked.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.23161v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.