단 하나의 순열이면 충분하다: 빠르고 결정론적인 특징 중요도 및 모델 스트레스 테스트
One Permutation Is All You Need: Fast, Deterministic Feature Importance and Model Stress-Testing
한국어 초록
머신러닝 모델에서 특징(feature) 기여도를 신뢰성 있게 추정하는 것은 투명성, 알고리즘 공정성 및 규제 준수를 위해 필수적입니다. 순열 특징 중요도(permutation feature importance)가 널리 사용되고 있으나, 전통적인 구현 방식은 반복적인 몬테카를로 셔플링에 의존하므로 상당한 계산 오버헤드와 확률적 불안정성을 초래합니다. 본 논문에서는 $B$개의 무작위 순열을 단 하나의 최대-최소 순위 최적(max-min rank-optimal) 결정론적 순열로 대체함으로써 추정 분산을 제거하고 복잡도를 $O(B \cdot n \cdot p)$에서 $O(n \cdot p)$로 줄이면서도 실제 중요도(ground-truth importance)와의 상관관계를 유지하거나 향상시킬 수 있음을 보여줍니다. 위치-척도(location-scale) 특징 분포 하에서, 오목(concave) 모델 민감도 하에서의 향상된 중요도 추정과 함께 척도 조정된 선형 회귀 계수의 정확한 복원을 정식으로 증명합니다. 우리는 이 결정론적 프레임워크를 두 가지 상호보완적인 차원으로 확장합니다. 첫째, 시스템적 특징 중요도(Systemic Feature Importance, SFI)는 경험적 특징 상관관계를 통합하여 대리 변수를 통한 간접적인 특징 의존성을 정량화합니다. 둘째, 중요도 방향(Importance Direction)은 공변량 변위와 출력 변화 간의 일치도를 측정하여 스칼라 중요도를 부호가 있는 방향성 표현으로 확장합니다. 200개에 가까운 시뮬레이션 시나리오에 걸친 광범위한 실증적 검증(validation)은 고차원 및 낮은 신호 대 잡음비 체계에서 우수한 바이어스-분산 트레이드오프를 입증합니다. 마지막으로, 두 가지 실제 신용 위험 사례 연구를 통해 SFI와 중요도 방향을 결합함으로써 실무자와 규제 기관이 보호 대상 속성에 대한 숨겨진 의존성의 크기와 순 부호를 모두 모델에서 감사(audit)할 수 있음을 보여주며, 모델 거버넌스를 위한 원칙적이고 투명하며 확장 가능한 프레임워크를 제공합니다.
원문 초록
Reliable estimation of feature contributions in machine learning models is essential for transparency, algorithmic fairness, and regulatory compliance. While permutation feature importance is widely used, classical implementations rely on repeated Monte Carlo shuffling, introducing significant computational overhead and stochastic instability. In this paper, we show that replacing $B$ random permutations with a single, max-min rank-optimal deterministic permutation maintains or improves correlation with ground-truth importance while eliminating estimation variance and reducing complexity from $O(B \cdot n \cdot p)$ to $O(n \cdot p)$. Under location-scale feature distributions, we formally prove exact recovery of scale-adjusted linear regression coefficients, alongside improved importance estimation under concave model sensitivity. We extend this deterministic framework along two complementary dimensions. First, Systemic Feature Importance (SFI) integrates empirical feature correlations to quantify indirect feature reliance through proxy variables. Second, Importance Direction extends scalar importance to a signed, directional representation by measuring concordance between covariate displacements and output shifts. Extensive empirical validation across nearly 200 simulation scenarios demonstrates superior bias-variance trade-offs in high-dimensional and low signal-to-noise regimes. Finally, two real-world credit risk case studies show how coupling SFI with Importance Direction enables practitioners and regulators to audit models for both the magnitude and net sign of hidden reliance on protected attributes, delivering a principled, transparent, and scalable framework for model governance.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
미관측 교란 변수에 강건한 위험 점수 학습
Learning Risk Scores Robust to Unobserved Confounders
미관측 교란의 영향을 받는 역사적 관찰 데이터로부터, 희소 자원이나 개입 대상 개인의 우선순위를 정하기 위한 위험 점수를 학습하는 문제를 다룬다. 누가 희소 자원을 받을지에 대한 결정은 설문 응답과 같이 기록된 특성에 기반한 위험 점수에 의해 종종 안내된다. 이러한 위험 점수는 개인의 특성, 배분 결정, 결과에 대한 역사적 기록인 관찰 데이터로부터 직접 학습되는 경우가 점점 늘고 있다. 역사적 배분 정책이 도입한 바이어스를 보정하는 역 성향 가중치(inverse propensity weighting, IPW)와 같은 표준 방법은, 역사적 결정 과정이 기록된 특성으로 완전히 설명될 수 있다면 정확한 위험 점수를 학습하는 데 사용될 수 있다. 그러나 실무에서는 역사적 결정이 종종 기록되지 않은 정보에 의존하여, 학습된 위험 점수가 과거 우선순위를 이끌었던 기록되지 않은 상황을 가진 개인들을 정확히 체계적으로 과소 우선순위화하게 만든다. IPW를 기반으로, 이러한 종류의 미관측 교란에 강건한 위험 점수를 학습하는 방법을 제안한다. 미관측 교란 하에서는 성향 가중치를 신뢰할 수 있게 추정할 수 없으므로, 대신 관측 가능한 데이터와 교란 정도에 대한 도메인 정보 기반 추정치로 결정되는 불확실성 집합에 속하는 것으로 취급하며, 인과 추론(causal inference)의 민감도 분석(sensitivity analysis)과 Wasserstein 분포적 강건 최적화(Wasserstein distributionally robust optimization)를 결합한다. 그 결과 강건 위험 점수 학습 문제는 표본 기반 근사를 허용하며, 이를 기성 솔버와 호환되는 지수 원뿔 프로그램(exponential cone program)으로 재공식화한다. UCI Machine Learning Repository의 데이터셋에서 파생된 반합성(semi-synthetic) 데이터에서 접근법의 효과를 입증한다. 제안 방법은 다른 지표를 손상하지 않으면서, 전통적 벤치마크 대비 보정(calibration)을 최대 29.2%까지, 최신(state of the art) 대비 최대 11.1%까지 개선한다.
조건부 대표 모니터링 및 분류를 위한 문맥 적응형 임계값 설정
Context-Adaptive Thresholding for Conditionally Representative Monitoring and Classification
일반적으로 분류기(classifier)와 모니터링 절차는 오분류율과 같은 목적 함수를 최적화(optimization)하여 레이블이 지정된 데이터로부터 학습(training)됩니다. 이는 중요한 외생 변수가 주어졌을 때 결과(레이블)의 조건부 분포가 모집단의 조건부 법칙과 달라져 비대표적인(unrepresentative) 조건부 분포를 초래할 수 있습니다. 본 연구에서는 오경보율(false alarm rate)을 유지하면서 민감도(sensitivity)를 분배하기 위해 공변량 $Z$(문맥)에 맞춰 임계값을 적응시킴으로써, 임의의 주어진 임계값 형태 분류기 및 모니터링 규칙을 수정하여 대표성 있는 조건부 레이블 예측을 달성하는 방법을 제시합니다. 경보 이벤트가 알려지지 않은 경우, 이 접근법은 임계값 설정 규칙 관점에서 해당 이벤트를 (근사적으로) 추론(inference)할 수도 있게 합니다. 이 접근법은 계산 비용이 저렴한 비모수적 추정 절차를 통해 구현되며, 그 특성은 경험적 과정 이론(empirical process theory)을 포함한 점근적 분포 이론 및 비점근적 오차 한계 관점에서 연구됩니다. 이러한 결과는 균일 신뢰대(uniform confidence bands), 함수형 가설 검정 및 변화 탐지 절차의 구성을 가능하게 합니다. 해석 가능한 머신러닝에서 자주 사용되는 잘 알려진 FICOS 신용 평가 예시에서, 임계값 적응은 일반적인 분류 평가 지표 측면에서 트랜스포머(transformer)를 포함한 최신(SOTA) 방법들과 견줄 수 있는 쉽게 해석 가능한 결정 규칙으로 이어집니다.
전역 규범을 넘어: 재학습 없이 언어 모델의 독성 민감도 개인화
Beyond a Global Norm: Personalizing Toxicity Sensitivity in Language Models Without Retraining
독성을 줄이는 문제는 종종 전역 정렬(alignment) 문제로 프레이밍되지만, 유해한 언어에 대한 인식은 주관적이고 문맥에 의존적이다. 우리는 사용자별 독성 민감도에 맞게 언어 생성을 정렬하기 위한 학습 없는(training-free) 방법들에 대한 최초의 비교 평가를, 세 가지 추론(inference) 시점 개입 단계—디코딩 전(프롬프트 조건화 및 재작성), 디코딩 중(토큰, 로짓, 표현 스티어링), 디코딩 후(후보 재순위화)—에 걸쳐 제시한다. PRISM 데이터셋에서 도출한 독성 민감도 목표에 대해 평가한 결과, 모든 방법이 정렬 오류를 28-47% 줄였다. 그러나 결과는 정렬 효과, 개인화, 일반적인 언어 품질 사이의 근본적인 트레이드오프를 보여 주며, 독성 민감도 정렬이 본질적으로 다목적 문제임을 드러낸다.
트랜스포머 어텐션 헤드 내 바이어스의 위치 특정 및 수정을 향하여
Toward Localizing and Repairing Bias in Transformer Attention Heads
트랜스포머 언어 모델이 소프트웨어 구성 요소로 점점 더 많이 사용되고 있지만, 바이어스가 있는 출력은 모델 내부에서 위치를 특정하고 수정하기 어렵다. 기존 공정성 테스트 및 수정 방법은 주로 입력-출력 수준 또는 재학습(retraining) 수준에서 동작하는 반면, 최근 연구는 바이어스 관련 행동이 소수의 어텐션 헤드에 집중될 수 있음을 시사한다. 본 논문은 표적화된 추론 시점 개입을 통해 어텐션 헤드를 위치 특정하고 수정할 수 있는지를 연구한다. 우리는 공정성 프로브(fairness probes)에 대한 민감도를 사용하여 어텐션 헤드의 순위를 매기고, 선택된 헤드 출력에서 작은 바이어스 부분공간을 제거하는 화이트박스 헤드 수준 공정성 디버깅 방법인 ROBIN을 제안한다. 4개 모델 파일럿 연구에서 ROBIN은 헤드 전체 영제로(whole-head zeroing)보다 언어 모델링 품질을 더 잘 유지하면서 모든 모델에서 측정된 WinoBias 격차를 줄인다. 이러한 예비 결과는 헤드 수준 바이어스 수정이 어떤 헤드가 선택되느냐뿐만 아니라 선택된 헤드가 어떻게 수정되느냐도 고려해야 함을 시사한다.
설명 가능한 머신러닝에서의 구성 개념 중첩 감사: 학생 코호트 간 번아웃-우울증 예측을 통한 실증 연구
Auditing Construct Overlap in Explainable Machine Learning: Evidence from Burnout-Depression Prediction Across Student Cohorts
복합 정신건강 결과에 적용된 설명 가능한 머신러닝(XML) 파이프라인은 겉으로는 강건하고 집단 간 안정적으로 보이는 위험 위계 구조를 산출할 수 있으나, 이는 대부분 결과 변수의 구성 방식에서 비롯된 인위적 산물이다. 우리는 로잔 대학교 의과대학생 886명(1차 코호트, 2022)에 ElasticNet 파이프라인을 적용하고, 세 시점에 걸친 2,580개의 종단 관측치 및 8개 학부 비의학 전공생 701명의 데이터로 검증함으로써 이를 실증한다. 세 데이터셋 모두 동일한 측정 도구를 사용한다. 이 파이프라인은 결과 변수가 측정되는 어느 상황에서든 특질 불안과 건강 만족도가 지배적인 위계를 산출하며, 모든 다섯 개 평가 세트에서 상위 두 순위에 대한 Kendall τ = 1.0을 보이고 일관된 전이 성능(R²: 0.41–0.49)을 나타낸다. 상관된 변수 간의 공유 분산을 회귀를 통해 분리하는 두 가지 잔차화(residualization) 실험을 통해 그 메커니즘이 밝혀진다. 특질 불안(STAI-T)을 함께 포함된 우울 하위척도(CES-D, r = 0.72)에 대해 잔차화하면 모델 R²가 0.41에서 0.16으로 하락하고 STAI-T의 순위는 1위에서 6위로 떨어진다. 번아웃 하위척도를 CES-D에 대해 잔차화하면 R²는 0.016으로 붕괴된다. 예측 구간은 0–100 척도에서 평균 35.4단위(결과 표준편차의 2.4배)로, 이는 개인 수준의 배포 가능성을 독립적으로 배제한다. 잔차화 프로토콜은 본 논문의 전이 가능한 기여이다. 상관된 예측 변수와 결과 구성 개념을 결합하는 모든 XAI 연구는 외견상의 안정성을 연구 결과로 해석하기 전에 이 검증을 적용해야 한다.
Sensitivity Analysis of the Transformation Using a Parameterized CEC 2017 Benchmark
토론
이 논문과 연결된 포럼 글이 아직 없습니다.