RapidUn: 효율적인 대규모 언어 모델 언러닝을 위한 영향도 기반 매개변수 재가중
RapidUn: Influence-Driven Parameter Reweighting for Efficient Large Language Model Unlearning
대규모 언어 모델(LLM)의 머신 언러닝(machine unlearning)은 전체 재학습에 비용이 많이 들고, 근사 기법은 특히 배포 이후 감독 신호가 제한된 상황에서 유지되어야 할 유용성을 저하시키지 않으면서 대상 행동을 제거하는 데 어려움을 겪는 경우가 많아 여전히 어려운 과제로 남아 있다. 본 연구는 작은 망각 집합(forget set), 제한된 유지 버퍼(retain buffer), LoRA만을 이용한 업데이트를 전제로 한, 대상 행동 오염 제거를 위한 실용적인 PEFT 설정을 다루며, 샘플 간 영향도(influence) 추정치를 고정된 샘플별 가중치로 변환하여 가중 LoRA 언러닝에 활용하는 영향도 기반 프레임워크인 RapidUn을 제안한다. Dolly-15k와 Alpaca-57k에서의 Llama-3-8B 실험과 Mistral-7B + Dolly-15k에서의 교차 모델 검증 전반에서, RapidUn은 깨끗한 유용성(clean utility)에서 경쟁력을 유지하면서도 Fisher, GA, LoReUn보다 더 낮은 학습된 트리거(seen-trigger) 및 OOD 트리거 계열(OOD-trigger-family)의 ASR을 달성한다. Llama-3-8B + Alpaca-57k에서는 깨끗한 코퍼스 LoRA 재학습 기준 대비 실제 소요 시간(wall-clock) 기준 77배의 속도 향상을 달성한다. 보완적인 TOFU, 의미 기반 LLM 심판(semantic LLM-judge), IFEval 평가 역시 통제된 트리거 벤치마크를 넘어 영향도 기반 샘플 재가중의 효과를 추가로 뒷받침한다.