arXiv:2606.29832v1 cs.LG

망각-보존 딜레마: 지속 학습에서의 인증된 언러닝 이론

The Forgetting-Retention Dilemma: Certified Unlearning Theory in Continual Learning

Yiting Hu, Lingjie Duan, Qian Zhang

제출 2026-06-29

한국어 초록

기계 언러닝(machine unlearning)은 프라이버시 보호를 위해 학습된 모델에서 특정 데이터의 영향을 제거하는 것을 목표로 한다. 그러나 이는 모델이 동적 데이터셋에서 순차적으로 업데이트되는 지속 학습(CL, continual learning) 환경에서 중요한 도전 과제를 제시한다. 주요 한계는 현재의 인증된 언러닝 알고리즘이 CL 프레임워크에 내재된 복잡하고 누적적인 모델 진화를 고려하지 못한다는 점이다. 본 연구에서는 CL과 기계 언러닝을 연결하는 최초의 이론적 토대를 구축한다. CL의 언러닝 목표를 언러닝 후 초과 위험의 최소화로 공식화하며, 이는 CL 초과 위험과 언러닝 손실로 분해되어 과거 지식 보존과 표적 망각 간의 근본적인 트레이드오프를 특성화한다. 완만한 가정 하에, 먼저 비볼록 모델에서 CL 초과 위험의 상한을 설정한다. 이후 그래디언트 기반과 헤시안 기반의 두 가지 인증된 언러닝 접근법을 CL 프레임워크에 적용한다. 분석 결과, 그래디언트 기반 접근법이 언러닝 손실 최소화에서 헤시안 기반 방법보다 덜 효과적이지만, 언러닝 활성화를 위한 저장 공간 오버헤드가 거의 없다는 뚜렷한 장점을 제공함을 밝힌다. 이 통찰은 저장 비용을 줄이면서 언러닝 후 성능을 유지하는 하이브리드 전략을 동기부여한다. 실험 결과는 우리의 이론적 발견을 추가로 검증한다.

원문 초록

Machine unlearning aims to eliminate the influence of specific data from trained models to safeguard privacy. However, this presents a significant challenge in the context of continual learning (CL), where models update sequentially on dynamic datasets. A major limitation is that current certified unlearning algorithms fail to account for the complex, cumulative model evolution inherent to CL framework. In this work, we establish the first theoretical foundation bridging CL and machine unlearning. We formulate the CL's unlearning objective as the minimization of post-unlearning excess risk, which decomposes into CL excess risk and unlearning loss, characterizing the fundamental trade-off between preserving historical knowledge and targeted forgetting. Under mild assumptions, we first establish an upper bound for the CL excess risk in non-convex models. We then adapt two certified unlearning approaches, gradient-based and Hessian-based, to the CL framework. Our analysis reveals that while the gradient-based approach is less effective than the Hessian-based method in minimizing unlearning loss, it offers the distinct advantage of nearly zero storage overhead for enabling unlearning. This insight motivates a hybrid strategy that reduces storage costs while maintaining post-unlearning performance. Experimental results further validate our theoretical findings.

요약

지속 학습(CL) 환경에서 기계 언러닝(machine unlearning)을 이론적으로 결합한 최초의 프레임워크를 제시하며, 언러닝 후 초과 위험을 CL 초과 위험과 언러닝 손실로 분해하여 지식 보존과 표적 망각 간의 트레이드오프를 형식화한다. 그래디언트 기반과 Hessian 기반의 두 인증 언러닝 접근법을 CL에 적용하고, 저장 오버헤드가 거의 없는 그래디언트 방식의 장점을 활용한 하이브리드 전략으로 저장 비용을 줄이면서 성능을 유지함을 이론적·실험적으로 검증한다.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.29832v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.02268v1cs.LG공통 태그 Privacy Preserving, Machine Unlearning, certified unlearning

머신 언러닝을 위한 수학적 인증서에서 실행 가능한 인증서로

From Mathematical to Executable Certificates for Machine Unlearning

머신 언러닝(Machine Unlearning)은 삭제 요청, 오래된 기록, 또는 데이터 품질 문제로 인해 데이터를 제거해야 할 때 필요하지만, 처음부터 다시 학습시키는 것은 비용이 많이 들 수 있다. 인증된 머신 언러닝 방법은 수학적 보장을 제공하지만, 실제 배포되는 시스템은 소프트웨어가 생성한 구체적인 유한 정밀도 산출물을 릴리스한다. 수학적 보장과 실제 배포 사이의 간극을 메우기 위해, 우리는 릴리스 시점에서 릴리스 대상으로 고려되는 후보 산출물을 인증하는 층인 실행 가능 릴리스 인증(Executable Release Certification, ExecCert)을 제안한다. ExecCert는 실행된 후보에 대해 해당 방법의 고유 인증서를 완결짓거나, 현재의 보존 집합(retain-set) 재학습에 대한 충실도를 인증하기 위해 재학습-참조 릴리스 검증(Retraining-Reference Release Verification, RRV)을 적용한다. 순차적 삭제는 정확한 보존 집합 참조와 저장된 수치 상태가 서로 별개로 변화하기 때문에 후자를 간단하지 않게 만든다. 고정된 표현에 가변적인 릿지 헤드(ridge head)를 사용하는 경우에 대해, 우리는 매 릴리스마다 다시 구성하는 대신 삭제 요청 전반에 걸쳐 인증된 근거를 유지하는 RRV의 증분적 구현 방식을 개발한다. 공개된 4개의 언러닝 구현에 대해, ExecCert는 유효한 인증서를 보존하고, 릴리스 결정을 변경하며, 보수적인 경계를 더 조이고, 구체적인 출력으로 뒷받침되는 재학습-참조 충실도를 식별한다. 순차적 서비스 실험에서, RRV는 저장된 수식 기반 검증으로 인한 거짓 릴리스를 제거하면서도 실제 발생한 오차를 밀접하게 추적하며, 증분 인증은 릴리스 점검이 충분히 빈번해지면 매번 새로 계산하는 방식과 유지 관리되는 검증된 인수(verified-factor) 대안 방식 모두보다 비용이 더 저렴하게 유지된다.

arXiv:2607.09236v1cs.LG공통 태그 Privacy Preserving, Continual Learning, Machine Unlearning

좁게 잊고, 넓게 유지하라: 비대칭 일반화 문제로서의 언러닝

Forget Narrowly, Retain Broadly: Unlearning as an Asymmetric Generalization Problem

대규모 언어 모델(LLM)에서의 머신 언러닝(machine unlearning)은 다른 모든 능력을 보존하면서 특정 지식을 표적 제거하는 기술로, 프라이버시와 안전성에 있어 핵심적이다. 그러나 기존 벤치마크들은 이를 신뢰성 없이 측정한다. 기존 벤치마크는 바꿔 쓴 표현이나 간접적인 질의에서 재등장하는 지식을 포착하지 못하는데, 우리는 이를 불완전 망각(under-forgetting)이라 부른다. 또한 무관한 지식이 보존되는지 검증하는 데 필요한 의미적·구문적·어휘적 프로브(probe)가 부족한데, 우리는 이를 과잉 망각(over-forgetting)이라 부른다. 두 실패 모두 비대칭 일반화 문제를 반영한다. 망각 평가는 동일한 목표 사실에 대한 다양한 질의 형식을 포괄하여, 정확한 학습 프롬프트를 넘어서도 망각이 유지되는지 검증해야 한다. 유지 평가는 훨씬 크고 암묵적으로 정의된 집합, 즉 망각 대상과 교집합이 없는 모든 사실을 탐색해야 한다. 따라서 유지 집합이 실질적인 망각 집합을 규정하지만, 현재 데이터셋들은 이 망각-유지 경계에 대한 세밀한 어노테이션을 제공하지 않는다. 우리는 실세계 사실적 도메인에 대한 망각-유지 구조를 포착하는 평가 프로토콜 및 학습 코퍼스인 SUITE로 이 문제를 해결한다. SUITE로 학습된 방법들은 실질적으로 향상되며, 이는 학습 데이터가 알고리즘 설계만큼 중요함을 보여 준다. 이를 통해 얻은 통찰을 바탕으로, 우리는 순차적 및 결합 언러닝 설정 모두에서 세 가지 LLM에 걸쳐 최상의 망각-유지 유용성 균형을 달성하는 언러닝 알고리즘 JensUn++를 제안한다. 코드와 데이터셋은 https://amitpeleg.github.io/forget-narrowly-retain-broadly 에서 이용 가능하다.

arXiv:2610.02418v2cs.CR공통 태그 Privacy Preserving, Machine Unlearning

Whiteout을 활용한 대규모 언어 모델(LLM)의 개인정보 유출 완화

Mitigating Private Data Leakage in LLMs with Whiteout

최신 대규모 언어 모델(LLM)은 거의 모든 접근 가능한 웹사이트에서 스크래핑한 콘텐츠와 사용자 입력을 포함하여 대부분 필터링되지 않은 방대한 데이터셋으로 학습(training)됩니다. 그 결과 LLM은 생년월일, 전화번호, 집 주소와 같은 민감한 개인정보(PSI)를 암기하고 그대로 재생성하는 경우가 많습니다. 이는 특히 경영진, 정치인, 판사와 같은 저명인사들에게 심각한 개인정보 침해 위험을 초래합니다. 기존의 완화 방법은 주로 머신 언러닝(machine unlearning)에 의존합니다. 그러나 이러한 방식은 종종 필요한 것보다 더 많은 정보를 제거하고, 모델의 유용성과 안전성(safety)을 저하시키며, 공격에 매우 취약합니다. 본 논문에서는 개인의 요청에 따라 정밀하고 세심하게 설계된 난독화 샘플로 덮어씀으로써 LLM이 실제 민감한 개인정보(PSI)를 그대로 토해내는 것을 방지하는 실용적인 도구인 Whiteout을 제시합니다. 널리 사용되는 OpenAI 모델을 포함하여 다양한 크기와 제조사의 최신 LLM에서 Whiteout을 평가(evaluation)합니다. 실험 결과, Whiteout은 대상 민감한 개인정보의 유출을 효과적으로 방지하고, 모델 유용성과 안전성에 미치는 영향이 미미하며, 기존 대안들보다 우수한 성능을 보였습니다. 또한 탈옥(jailbreaking)과 같은 블랙박스 공격부터 재학습(relearning) 및 양자화(quantization)와 같은 화이트박스 적응형 공격에 이르기까지 광범위한 대응 공격에 대해 Whiteout을 검증합니다. 마지막으로 Whiteout의 보안 및 윤리적 의미에 대한 논의로 결론을 맺습니다.

arXiv:2610.02278v1cs.LG공통 태그 Incremental Learning, Continual Learning

CLEAN: 구조적 격리를 통한 개념 공간 확장 하에서 심리측정학적으로 일관된 점진적 인지 진단

CLEAN: Psychometrically Consistent Incremental Cognitive Diagnosis under Concept-Space Expansion via Architectural Isolation

인지 진단(Cognitive Diagnosis, CD)은 지식 개념에 대한 학습자의 숙련도를 프로파일링하는 지능형 교육의 기본 과제입니다. 실제 학습 플랫폼에서는 새로 추가되는 문항들이 이전에 보지 못한 개념을 지속적으로 도입하므로, 기저의 개념 공간을 동적으로 확장해야 합니다. 그러나 기존의 점진적 인지 진단 모델들은 고정된 개념 공간을 가정하여 새 문항의 그래디언트(gradient)가 과거 경로를 덮어쓰고 치명적 망각(catastrophic forgetting)을 유발하도록 방치합니다. 더욱 심각한 점은 이러한 방법들이 과거 진단을 보존하기 위해 연성 제약 조건(soft constraints)에만 의존한다는 것입니다. 이러한 제약 조건은 인지 진단에서 심리측정학적 일관성(psychometric consistency)으로 알려진 요구 사항인, 점진적 업데이트 이후의 진단 불변성 조건을 만족하지 못할 수 있습니다. 따라서 우리는 개념 공간 확장을 지원하는 동시에 과거 진단의 점별 불변성(pointwise invariance)에 대한 구조적 보장을 제공하는 새로운 점진적 인지 진단 프레임워크인 CLEAN(Continual Learning with Expandable and Architecturally Isolated Networks)을 제안합니다. 구체적으로, CLEAN은 먼저 엄격한 위상학적 이분할 프로토콜을 도입하고, 과거 진단 함수를 동결하며, 결정론적 직교 열 마스킹을 적용하여 그래디언트 간섭을 차단합니다. 둘째로, 개념 확장을 수용하기 위해 미세 분산 초기화(micro-variance initialization)가 적용된 확장 가능한 풀 랭크(full-rank) 브랜치를 배치하여 새로운 개념을 학습합니다. 마지막으로, 이러한 구조적 설계가 구조적으로 불변성을 달성하는지 검증하기 위해 과거 특성의 섭동을 정량화하는 표현 표류(Representation Drift, RD)를 공식화합니다. 3개의 대규모 교육 데이터셋에 대한 광범위한 실험을 통해, CLEAN이 제로 RD를 달성하여 구조적 격리를 통해 이전 문항 지표를 정적 앵커와 동일하게 보존하는 동시에, 새 문항에 대해서도 강력한 연속 학습(continual learning) 베이스라인과 경쟁력 있거나 우수한 성능을 유지함을 입증합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.