TIER: 멤버십 프라이버시를 위한 궤적 불변 설명 정규화
TIER: Trajectory-Invariant Explanation Regularization for Membership Privacy
설명 가능성(Explainability)은 신뢰할 수 있는 AI를 구축하는 데 핵심적이지만, 설명 인터페이스는 의도치 않게 적대자에게 확장된 프라이버시 관련 공격 표면을 제공할 수 있다. 최근 연구에 따르면, 고급 멤버십 추론 공격(membership-inference attack)은 신뢰도 점수나 설명 벡터를 직접 사용하는 대신, 어트리뷰션 기반 섭동을 통해 유도된 신뢰도 하락 궤적(confidence-drop trajectory)을 판별적 특징으로 활용함으로써 성공한다는 것이 밝혀졌다. 멤버십 추론에 대한 기존 방어 기법들은 이러한 설명 기반 공격을 직접적으로 완화하지 못한다. 본 연구에서는 학습 과정에서 모델 자체의 그래디언트를 이러한 공격에 대한 방어 신호로 활용하여 멤버(member)와 비멤버(non-member) 간의 설명 프로파일을 정렬할 수 있는지 탐구한다. 이를 위해, 그래디언트 기반 섭동을 통해 시뮬레이션된 신뢰도 하락의 불규칙한 변동에 패널티를 부과하는 동시에 KL 발산(KL-divergence)을 통해 분포적 이동(distributional shift)을 최소화하는 궤적 불변 설명 정규화(TIER, Trajectory-Invariant Explanation Regularization) 방어 기법을 제안한다. 레이블 견고성을 강조하는 기존의 적대적 학습(adversarial training)과 달리, 본 접근법은 KL 발산을 통한 자기 일관성(self-consistency)을 강제하고 멤버와 비멤버 간 신뢰도 하락의 분산을 줄임으로써 설명 견고성(explanation robustness)을 목표로 한다. 광범위한 실험을 통해 본 방법이 이러한 공격을 효과적으로 완화하며, 모델 유용성과 설명 충실도를 유지하면서 프라이버시 보호를 제공함을 확인하였다.