SUPREME: 재현 가능한 이미지 언러닝 기법 평가를 위한 멀티 GPU 프레임워크
SUPREME: A Multi-GPU Framework for Reproducible Image Unlearning Method Evaluation
한국어 초록
머신 언러닝(Machine unlearning)은 모델을 처음부터 다시 학습(training)하지 않고도 학습된 모델(model)에서 특정 학습 데이터의 영향을 제거합니다. 언러닝 기법을 평가하려면 여러 시드(seed)에 걸쳐 학습, 언러닝, 평가를 반복해야 하므로 계산 비용이 많이 듭니다. 우리가 아는 한, 기존 이미지 분류(image classification) 언러닝 프레임워크는 단일 GPU에서 실행되므로 적절한 시간 내에 평가할 수 있는 시드 수가 제한됩니다. 본 논문에서는 이러한 단계를 여러 GPU에 분산하는 오픈소스 프레임워크인 SUPREME을 소개합니다. SUPREME은 새로운 기법, 지표, 모델, 시나리오를 추가하기 위한 레지스트리 기반 설계, 여러 가속기와 정밀도(precision) 모드를 지원하는 멀티 GPU 아키텍처, 그리고 10개의 시드에 걸쳐 전체 클래스 및 무작위 샘플 언러닝 조건에서 ResNet18 및 ViT를 사용해 Pins Face Recognition 데이터셋에 대해 진행한 시연이라는 세 가지 기여를 제공합니다. 해당 프레임워크는 https://github.com/pedroandreou/supreme-unlearning 에서 이용할 수 있습니다.
원문 초록
Machine unlearning removes the influence of specific training data from a trained model without retraining it from scratch. Evaluating an unlearning method requires repeating training, unlearning, and evaluation across multiple seeds, which is computationally expensive. To our knowledge, existing image classification unlearning frameworks run on a single GPU, which limits how many seeds can be evaluated in reasonable time. We introduce SUPREME, an open-source framework that distributes these stages across multiple GPUs. SUPREME makes three contributions: a registry-based design for adding new methods, metrics, models, and scenarios; a multi-GPU architecture supporting multiple accelerators and precision modes; and a demonstration on Pins Face Recognition using ResNet18 and ViT under full-class and random-sample unlearning across ten seeds. The framework is available at https://github.com/pedroandreou/supreme-unlearning.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.00380v3제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Whiteout을 활용한 대규모 언어 모델(LLM)의 개인정보 유출 완화
Mitigating Private Data Leakage in LLMs with Whiteout
최신 대규모 언어 모델(LLM)은 거의 모든 접근 가능한 웹사이트에서 스크래핑한 콘텐츠와 사용자 입력을 포함하여 대부분 필터링되지 않은 방대한 데이터셋으로 학습(training)됩니다. 그 결과 LLM은 생년월일, 전화번호, 집 주소와 같은 민감한 개인정보(PSI)를 암기하고 그대로 재생성하는 경우가 많습니다. 이는 특히 경영진, 정치인, 판사와 같은 저명인사들에게 심각한 개인정보 침해 위험을 초래합니다. 기존의 완화 방법은 주로 머신 언러닝(machine unlearning)에 의존합니다. 그러나 이러한 방식은 종종 필요한 것보다 더 많은 정보를 제거하고, 모델의 유용성과 안전성(safety)을 저하시키며, 공격에 매우 취약합니다. 본 논문에서는 개인의 요청에 따라 정밀하고 세심하게 설계된 난독화 샘플로 덮어씀으로써 LLM이 실제 민감한 개인정보(PSI)를 그대로 토해내는 것을 방지하는 실용적인 도구인 Whiteout을 제시합니다. 널리 사용되는 OpenAI 모델을 포함하여 다양한 크기와 제조사의 최신 LLM에서 Whiteout을 평가(evaluation)합니다. 실험 결과, Whiteout은 대상 민감한 개인정보의 유출을 효과적으로 방지하고, 모델 유용성과 안전성에 미치는 영향이 미미하며, 기존 대안들보다 우수한 성능을 보였습니다. 또한 탈옥(jailbreaking)과 같은 블랙박스 공격부터 재학습(relearning) 및 양자화(quantization)와 같은 화이트박스 적응형 공격에 이르기까지 광범위한 대응 공격에 대해 Whiteout을 검증합니다. 마지막으로 Whiteout의 보안 및 윤리적 의미에 대한 논의로 결론을 맺습니다.
머신 언러닝을 위한 수학적 인증서에서 실행 가능한 인증서로
From Mathematical to Executable Certificates for Machine Unlearning
머신 언러닝(Machine Unlearning)은 삭제 요청, 오래된 기록, 또는 데이터 품질 문제로 인해 데이터를 제거해야 할 때 필요하지만, 처음부터 다시 학습시키는 것은 비용이 많이 들 수 있다. 인증된 머신 언러닝 방법은 수학적 보장을 제공하지만, 실제 배포되는 시스템은 소프트웨어가 생성한 구체적인 유한 정밀도 산출물을 릴리스한다. 수학적 보장과 실제 배포 사이의 간극을 메우기 위해, 우리는 릴리스 시점에서 릴리스 대상으로 고려되는 후보 산출물을 인증하는 층인 실행 가능 릴리스 인증(Executable Release Certification, ExecCert)을 제안한다. ExecCert는 실행된 후보에 대해 해당 방법의 고유 인증서를 완결짓거나, 현재의 보존 집합(retain-set) 재학습에 대한 충실도를 인증하기 위해 재학습-참조 릴리스 검증(Retraining-Reference Release Verification, RRV)을 적용한다. 순차적 삭제는 정확한 보존 집합 참조와 저장된 수치 상태가 서로 별개로 변화하기 때문에 후자를 간단하지 않게 만든다. 고정된 표현에 가변적인 릿지 헤드(ridge head)를 사용하는 경우에 대해, 우리는 매 릴리스마다 다시 구성하는 대신 삭제 요청 전반에 걸쳐 인증된 근거를 유지하는 RRV의 증분적 구현 방식을 개발한다. 공개된 4개의 언러닝 구현에 대해, ExecCert는 유효한 인증서를 보존하고, 릴리스 결정을 변경하며, 보수적인 경계를 더 조이고, 구체적인 출력으로 뒷받침되는 재학습-참조 충실도를 식별한다. 순차적 서비스 실험에서, RRV는 저장된 수식 기반 검증으로 인한 거짓 릴리스를 제거하면서도 실제 발생한 오차를 밀접하게 추적하며, 증분 인증은 릴리스 점검이 충분히 빈번해지면 매번 새로 계산하는 방식과 유지 관리되는 검증된 인수(verified-factor) 대안 방식 모두보다 비용이 더 저렴하게 유지된다.
TasteBench: 분자에서 지속 가능한 식품까지, 감각 예측을 위한 멀티모달 벤치마크
TasteBench: Multimodal Benchmark for Sensory Prediction, from Molecules to Sustainable Foods
지속 가능한 단백질 발굴에는 신약 및 소재 발굴을 가속화하는 분자 도킹이나 밀도 범함수 이론과 유사한 빠른 계산 대리 모델(proxy)이 부재합니다. 새로운 식품이 동물성 대상 식품과 비슷한 맛을 내는지 평가하려면 비용이 많이 드는 인간 관능 평가 패널이 필요하여 설계-구축-테스트 루프의 병목 현상을 초래합니다. 본 논문에서는 두 가지 과제로 구성된 감각 예측용 멀티모달 벤치마크이자 프라이버시 보존형 경진대회인 TasteBench를 소개합니다. 두 과제는 24개 제품 카테고리의 215개 식물성 식품에 대한 2만 1천 건 이상의 인간 평가를 기반으로 구축되어 카테고리 내 935개 순위 쌍을 생성하는 식품 수준 랭킹 과제와, 1만 5천 개 향미 분자를 다루는 보조적 분자 수준 맛 분류(classification) 과제입니다. 모델(model) 성능의 엄밀한 해석을 위해 본 연구에서는 정답 레이블(ground truth)의 특성을 규명했습니다. 패널 간 평가자 간 일치도는 낮았으며(Krippendorff's $α= .077$), 패널 집계 랭킹의 반분 신뢰도 상한선은 .825로 나타나 이 벤치마크에서 머신러닝 시스템을 평가해야 하는 범위를 설정했습니다. 네 가지 입력 모달리티에 걸쳐 베이스라인을 평가한 결과, 패널이 평가한 동일한 쌍에서 최고 성능 모델은 .661의 쌍별 정확도를 기록하여 개별 패널의 중앙값(.650)과 경쟁력 있는 성능을 보였고, 모든 카테고리 내 쌍에 대해서는 .683을 달성했습니다. TasteBench는 지속 가능한 단백질 발굴을 위한 계산 스크리닝의 발전을 측정할 수 있는 평가 인프라와 베이스라인을 제공합니다.
시스템 고유 키를 사용하여 얼굴 임베딩으로부터 비가역적 PolyProtected 템플릿을 생성할 수 있는가?
Is it Possible to Generate Irreversible PolyProtected Templates from Face Embeddings using System-Specific Keys?
본 연구는 기존의 피험자 고유 키(subject-specific key, 즉 각 피험자마다 고유한 C 및 E 파라미터를 보유) 대신 시스템 고유 키(system-specific key, 즉 변환을 정의하는 동일한 C 및 E 파라미터를 모든 피험자의 얼굴 임베딩에 적용)를 사용하여 생체인식 템플릿 보호 기법인 PolyProtect를 얼굴 임베딩(face embedding)에 적용할 때, 비가역적인 보호 템플릿 생성이 가능한지에 대한 질문에 답하는 것을 목표로 한다. 이는 PolyProtected 도메인에서 얼굴 신원 중복 제거(de-duplication)를 수행할 수 있는지 판단하는 데 중요하다. 피험자 고유 키 시나리오에서는 서로 다른 C 및 E 파라미터를 사용하여 동일 신원에 대해 상호 연결할 수 없는 여러 보호 템플릿을 생성할 수 있다는 PolyProtect의 비연결성(unlinkability) 특성과 상충되어 이러한 중복 제거가 불가능하다. 본 논문에서는 비가역적 PolyProtected 템플릿을 생성하는 시스템 고유 키를 체계적으로 선택하는 방법이 적어도 세 가지 존재함을 증명하는 실험(공개된 오픈소스 코드를 통해 재현 가능)을 제시한다. 세 가지 방법은 (i) 사전 선택된 피험자 고유 키로부터 선택, (ii) 이전에 제안된 키 선택 알고리즘을 무작위 벡터에 적용, (iii) 시스템 고유 키를 구성할 수 있는 "적합한(good)" C/E 쌍 분포를 근사하는 것이다. 따라서 본 연구 결과는 템플릿 보호 성능을 저하시키지 않으면서 시스템 고유 키 시나리오에서 PolyProtect를 안전하게 운용하는 것이 실제로 가능하다는 결론을 제시한다. 이는 PolyProtected 도메인에서 신원 중복 제거의 가능성을 열어준다.
BenchENAS: A Benchmarking Platform for Evolutionary Neural Architecture Search
아무것도 예측하지 않는 것이 SAM 3를 능가할 때: 비디오 객체 분할 평가의 재검토
When Predicting Nothing Beats SAM 3: Revisiting Evaluation in Video Object Segmentation
복잡하고 긴 비디오에서의 비디오 객체 분할(Video Object Segmentation, VOS)은 대상 객체가 긴 시간 지평 내에서 간헐적으로만 나타나는 경우가 많은 실제 응용 분야에서 점차 중요해지고 있습니다. 그러나 기존 벤치마크는 대부분 비디오의 대부분 동안 가시적으로 유지되는 시간적으로 두드러진 객체에 주로 초점을 맞추고 있습니다. 이러한 공백을 해결하기 위해 본 논문에서는 낮은 시간적 가시성 조건에서 VOS 방법을 평가하도록 설계된 벤치마크인 FaVOS(A Benchmark for Video Object Segmentation with Fractional Temporal Visibility)를 소개합니다. 우리는 이러한 조건에서 표준 J&F 지표가 대상이 존재하지 않는 프레임에 대한 빈 예측에 높은 보상을 부여하기 때문에 VOS 평가를 부재 분류(absence classification)로 전락시킬 수 있음을 보입니다. 그 결과, 자명한 빈 마스크 예측기조차 SAM 3와 같은 강력한 모델을 능가할 수 있으며, 이는 현재 지표와 실질적인 VOS 성능 간의 근본적인 불일치를 드러냅니다. 이 문제를 완화하기 위해 마스크 시퀀스를 시공간 볼륨으로 평가하고 분할 품질 및 시간적 구조에 대한 민감도를 유지하면서 대상 부재 보상의 지배력을 줄이는 Volumetric J&F를 제안합니다. 프로젝트 페이지: https://aidaslab.github.io/FaVOS.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.