표현 궤적의 중요성: OOD 탐지 및 이미지 분류를 위한 상호보완적 증거
Representation Trajectories Matters: Complementary Evidence for OOD Detection and Image Classification
한국어 초록
비전 모델은 표현(representation)을 한 번에 형성하지 않으며, 각 블록이 이를 수정합니다. 본 연구에서는 이로 인해 발생하는 계산 경로에 최종 표현에서는 버려지는 증거가 포함되어 있는지, 그리고 해당 증거가 깨끗한(clean) 데이터와 분포 변화(shifted) 데이터에서 OOD(분포 외) 탐지 및 이미지 분류 성능을 향상시키는지 질문을 던집니다. 중간 레이어를 독립적인 스냅샷으로 취급하는 기존 접근 방식과 달리, 우리는 깊이(depth) 전반에 걸쳐 샘플 정체성을 유지하고 연속적인 상태들을 연결하는 변환을 연구합니다. 또한 클래스 일관적 이동(class-coherent transport)과 입력 특화 혁신(input-specific innovation)을 분리하고, 좌표 이동과 관계적 재조직을 분리합니다. 지도학습, 자기지도학습, 비전-언어, 계층적 및 합성곱 인코더 전반에 걸쳐, 이러한 경로들은 여러 데이터셋에서 반복적으로 나타나는 강력한 샘플 특화 연속성과 아키텍처 특화 깊이 프로파일을 보여줍니다. 이러한 특성은 실용적으로도 유용합니다. ID 전용 전이-놀람 점수(transition-surprise score)는 강력한 최종 상태 탐지기를 보완하여 균형 잡힌 OpenOOD 그리드에서 포화되지 않은 152개 비교 중 131개에서 FPR95를 낮춥니다. 이러한 개선 효과는 시각적으로 파괴적이거나 의미적으로 거리가 먼 변화에서 가장 두드러지며, 대부분의 탐지기에서 근접 OOD(near-OOD)에 대해서도 긍정적으로 유지됩니다. 고정된 업데이트 프로브(frozen update probe)는 깨끗한 모델-데이터셋 72개 중 71개 사례에서 개선을 보인 반면, 변화된 데이터에서의 이득은 아키텍처 및 손상(corruption) 유형에 따라 다양하게 나타납니다. 따라서 계산 경로는 모델 구조와 직면한 분포 변화에 의해 그 가치가 공동으로 결정되는 폭넓게 유용한 신뢰성 신호를 제공합니다.
원문 초록
Vision models do not form a representation at once; each block revises it. We ask whether the resulting computation path contains evidence that the final representation discards, and whether that evidence improves OOD detection and image classification on clean and shifted data. Unlike approaches that treat intermediate layers as separate snapshots, we retain sample identity across depth and study the transformations connecting successive states. We separate class-coherent transport from input-specific innovation, and coordinate movement from relational reorganization. Across supervised, self-supervised, vision--language, hierarchical, and convolutional encoders, these paths show strong sample-specific continuity and architecture-specific depth profiles that recur across datasets. They are also practically useful. An ID-only transition-surprise score complements strong final-state detectors, reducing FPR95 in 131/152 non-saturated comparisons on a balanced OpenOOD grid; gains are largest for visually disruptive and semantically far shifts, and remain positive on near-OOD for most detectors. Frozen update probes improve 71/72 clean model--dataset cases, while shifted-data gains vary with architecture and corruption type. Computation paths therefore provide a broadly useful reliability signal whose value is determined jointly by model organization and the shift encountered.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2607.26565v2제출 시각 미확인
- arXiv:2607.26565v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.