Causal Unlearning in Collaborative Optimization: Exact and Approximate Influence Reversal under Adversarial Contributions
한국어 초록
연합학습 시스템은 개인정보 보호 규정을 준수하기 위해 데이터 삭제 요청을 지원해야 하지만, 각 삭제 후 처음부터 다시 학습하는 것은 계산 비용이 지나치게 큽니다. 우리는 HF-KCU를 제안합니다. 이 방법은 크릴로프 부분공간(Krylov subspaces)에서 공액 기울기 반복(conjugate gradient iterations)을 통해 영향 함수(influence function)를 근사함으로써 클라이언트의 기여를 제거하며, 복잡도를 O(d^3)에서 O(kd)로 줄입니다(k << d). 인과적 가중치 메커니즘은 삭제된 데이터를 보유한 클라이언트만 매개변수 업데이트를 받도록 보장하여, 영향을 받지 않는 클라이언트에 대한 불필요한 변화를 방지합니다. 또한 본 방법은 헤시안과 그래디언트에 대한 유계 적대적 교란을 처리하도록 설계되어, 현실적인 위협 모델 하에서 완만한 성능 저하를 제공합니다. 우리는 CIFAR-10, MNIST, Fashion-MNIST에서 합성곱(ResNet-18, SimpleCNN) 및 트랜스포머(ViT-Lite) 아키텍처 전반에 걸쳐 HF-KCU를 검증했습니다. Dirichlet(alpha=0.5) 분할을 적용한 CIFAR-10에서 HF-KCU는 재학습 대비 47.75배의 속도 향상을 달성하면서도 테스트 정확도를 기준선의 0.60% 이내로 유지했습니다(71.16% 대 71.76%). 망각 집합(forget set)에 대한 멤버십 추론 공격은 0.499의 성공률을 보였으며, 이는 재학습된 모델과 일치하고 효과적인 프라이버시 복원을 확인해 줍니다. 또한 크릴로프 근사 오차가 O((k^1/2-1)/(k^1/2+1))로 감소함을 보이는 수렴 보장을 제시하며, 여기서 k는 헤시안의 조건수입니다. 인과적 가중치 메커니즘은 정교한 업데이트를 보장하여, 삭제된 데이터를 보유한 클라이언트만 수정되도록 하고, 영향을 받지 않는 참여자의 모델 품질을 보존하며, 비동기 연합 환경에서 그래디언트 기반 접근법의 불안정성을 피합니다. 이러한 설계는 각 업데이트가 삭제된 데이터의 영향으로 직접 추적될 수 있으므로 해석 가능성도 제공합니다. 이 방법의 효율성과 정밀성은 삭제 요청이 비동기적으로 도착하고 계산 자원이 제한된 운영 환경의 연합 시스템에 적합합니다.
요약
연합학습(Federated Learning, FL) 환경에서는 사용자가 자신의 데이터 삭제를 요청할 수 있어야 하지만, 삭제가 발생할 때마다 전체 모델을 처음부터 다시 학습하는 방식은 계산 비용이 너무 커 실제 서비스에 적용하기 어렵습니다. 이러한 문제의식 속에서 HF-KCU는 삭제된 데이터가 학습 과정에 남긴 영향을 정교하게 되돌리는 방향으로 설계되었으며, 핵심적으로 영향 함수(influence function)가 요구하는 \(H^{-1}g\) 계산을 공액 기울기(Conjugate Gradient, CG)와 Krylov 부분공간(Krylov subspace) 근사로 대체합니다. 이를 통해 헤시안(Hessian) 행렬을 명시적으로 구성하거나 역행렬을 구하지 않고도 삭제 요청에 대응할 수 있으며, 이론적으로는 계산 복잡도를 \(O(d^3)\)에서 \(O(kd)\) 수준으로 낮춰 대규모 신경망에서도 실행 가능성을 확보합니다. 더 나아가 삭제된 정보의 영향이 실제로 닿은 클라이언트에만 반영되도록 causal weighting 메커니즘을 도입함으로써, 무관한 참여자에게 불필요한 파라미터 변동이 번지는 현상을 방지합니다. 이러한 국소적 업데이트는 비동기적 삭제 요청이 빈번한 현실적 연합학습 환경에서 특히 중요하며, 삭제 대상과 무관한 클라이언트의 안정성을 유지하면서도 재학습에 가까운 복원 품질을 지향합니다. 방법론 측면에서 HF-KCU는 삭제 요청을 단순한 가중치 조정이 아니라, 특정 데이터가 모델에 끼친 인과적 기여를 역전시키는 문제로 정식화합니다. 삭제 대상 데이터에 대한 그래디언트와 헤시안-벡터 곱(Hessian-vector product)만을 이용해 선형계를 반복적으로 풀기 때문에, 전체 학습을 반복하지 않아도 삭제된 샘플의 흔적을 효과적으로 제거할 수 있습니다. 또한 bounded adversarial perturbation을 고려한 설계를 통해 헤시안과 그래디언트에 작은 교란이 존재하더라도 업데이트가 급격히 붕괴하지 않도록 하였고, 이는 실제 공격 가능성이 있는 환경에서도 견고한 동작을 뒷받침합니다. 이론적으로는 CG 근사 오차가 조건수에 따라 감소한다는 수렴 보장을 제시하여, 반복 횟수가 충분히 확보될 때 재학습 해와의 차이가 점차 줄어든다는 점을 설명합니다. 실험에서는 ResNet-18, SimpleCNN, ViT-Lite와 같은 다양한 구조에 대해 CIFAR-10, MNIST, Fashion-MNIST를 평가하여, 모델 구조와 데이터셋이 달라도 일관된 삭제 성능을 보인다는 점을 확인했습니다. 특히 CIFAR-10의 Dirichlet(α=0.5) 비독립동일분포(non-IID) 분할 환경에서 HF-KCU는 재학습 대비 47.75배의 속도 향상을 달성하면서도 테스트 정확도를 71.16%로 유지해 재학습 기준선 71.76%와 매우 근접한 결과를 보였습니다. 삭제 집합에 대한 membership inference attack(MIA) 성공률이 0.499로 재학습 모델과 동일한 수준까지 낮아졌다는 점은, 단순히 성능만 유지한 것이 아니라 프라이버시 복원 측면에서도 효과적이었음을 시사합니다. 또한 causal weighting이 제거되면 무관한 클라이언트까지 업데이트가 번져 성능이 악화된다는 점이 ablation study를 통해 확인되어, 이 메커니즘이 단순한 부가 요소가 아니라 방법 전체의 안정성과 해석 가능성을 지탱하는 핵심 장치임이 드러났습니다. 종합하면 HF-KCU는 재학습의 정확도와 프라이버시 복원력을 최대한 유지하면서도, 삭제 요청을 빠르고 국소적으로 처리할 수 있는 실용적 연합학습 언러닝(unlearning) 방법을 제시한다는 점에서 의미가 큽니다.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.