PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2512.13892v3stat.ML

단 하나의 순열이면 충분하다: 빠르고 결정론적인 특징 중요도 및 모델 스트레스 테스트

One Permutation Is All You Need: Fast, Deterministic Feature Importance and Model Stress-Testing

머신러닝 모델에서 특징(feature) 기여도를 신뢰성 있게 추정하는 것은 투명성, 알고리즘 공정성 및 규제 준수를 위해 필수적입니다. 순열 특징 중요도(permutation feature importance)가 널리 사용되고 있으나, 전통적인 구현 방식은 반복적인 몬테카를로 셔플링에 의존하므로 상당한 계산 오버헤드와 확률적 불안정성을 초래합니다. 본 논문에서는 $B$개의 무작위 순열을 단 하나의 최대-최소 순위 최적(max-min rank-optimal) 결정론적 순열로 대체함으로써 추정 분산을 제거하고 복잡도를 $O(B \cdot n \cdot p)$에서 $O(n \cdot p)$로 줄이면서도 실제 중요도(ground-truth importance)와의 상관관계를 유지하거나 향상시킬 수 있음을 보여줍니다. 위치-척도(location-scale) 특징 분포 하에서, 오목(concave) 모델 민감도 하에서의 향상된 중요도 추정과 함께 척도 조정된 선형 회귀 계수의 정확한 복원을 정식으로 증명합니다. 우리는 이 결정론적 프레임워크를 두 가지 상호보완적인 차원으로 확장합니다. 첫째, 시스템적 특징 중요도(Systemic Feature Importance, SFI)는 경험적 특징 상관관계를 통합하여 대리 변수를 통한 간접적인 특징 의존성을 정량화합니다. 둘째, 중요도 방향(Importance Direction)은 공변량 변위와 출력 변화 간의 일치도를 측정하여 스칼라 중요도를 부호가 있는 방향성 표현으로 확장합니다. 200개에 가까운 시뮬레이션 시나리오에 걸친 광범위한 실증적 검증(validation)은 고차원 및 낮은 신호 대 잡음비 체계에서 우수한 바이어스-분산 트레이드오프를 입증합니다. 마지막으로, 두 가지 실제 신용 위험 사례 연구를 통해 SFI와 중요도 방향을 결합함으로써 실무자와 규제 기관이 보호 대상 속성에 대한 숨겨진 의존성의 크기와 순 부호를 모두 모델에서 감사(audit)할 수 있음을 보여주며, 모델 거버넌스를 위한 원칙적이고 투명하며 확장 가능한 프레임워크를 제공합니다.