arXiv:2610.13733v1 cs.CV

KVeil: 학습 불가능한 비디오에 관한 ECCV 2026 LifeGenIP 챌린지 1위 솔루션

KVeil: First-Place Solution to ECCV 2026 LifeGenIP Challenge on Unlearnable Videos

Boheng Li, Yueming Xing, Yiming Li, Jie Zhang, Han Qiu, Tianwei Zhang

제출 2026-10-09

저자 비고

arXiv Comments

Technical report for the winning solution (1st place, both phases) of the ECCV 2026 LifeGenIP Challenge on Unlearnable Videos against Diffusion-based Customization

한국어 초록

개인화된 비디오 생성 기술의 급격한 발전으로 몇 개의 인물 얼굴 비디오만으로도 합성 비디오에서 해당 신원을 재현할 수 있게 되면서, 신원 프라이버시에 대한 심각한 우려가 제기되고 있습니다. 본 보고서에서는 제한적이고 감지할 수 없는 섭동(perturbation) 예산 내에서 무단 맞춤 제작(customization)으로부터 얼굴 비디오를 보호하는 것을 목표로 하는 학습 불가능한 비디오(Unlearnable Videos) 대상 ECCV 2026 LifeGenIP 챌린지의 두 단계 모두에서 1위를 차지한 솔루션을 제시합니다. 1단계(Phase 1)에서는 후속 비디오 표현이 참조 조건에 계속 의존하도록 유지하면서도 참조 조건이 전달하는 정보를 저하시키는 한 쌍의 상호보완적 손실인 참조 용량 붕괴(Reference Capacity Collapse)와 함께, 미지의 추론(inference) 조건 전반에서 강건성을 향상시키는 모션 유도 EOT(Motion-Guided EOT) 메커니즘을 도입합니다. 2단계(Phase 2)에서는 튜닝 기반 맞춤 제작과 미확인 생성 모델까지 추가로 고려합니다. 단일 섭동 내에서 두 가지 위협을 모두 해결하기 위해, 얼굴과 배경 영역을 분리하여 보호하는 2층(two-layer) 프레임워크를 설계하였으며, 전자에서는 합성 타깃 신원으로부터 구조 정렬 섭동을 구성하고 후자에서는 1단계의 화이트박스 교란을 강화합니다. 제안하는 방법은 화이트박스 참조 기반 맞춤 제작 환경에서 거의 완벽한 보호를 달성하며, 다른 맞춤 제작 패러다임, 다양한 모델 및 시간적 공격(temporal attack) 하에서도 여전히 효과적입니다. 두 솔루션 모두 최근 연구인 LETHE를 기반으로 구축되었습니다. 본 솔루션이 무단 맞춤 제작으로부터 얼굴 비디오를 보호하는 미래 연구에 영감을 주기를 기대합니다. 코드는 https://github.com/AntigoneRandy/KVeil 에서 이용할 수 있습니다.

원문 초록

The rapid development of personalized video generation has raised serious concerns over identity privacy, as a few facial videos of a person now suffice to reproduce their identity in synthetic videos. This report presents the first-place solutions to both phases of the ECCV 2026 LifeGenIP Challenge on Unlearnable Videos, which aims to protect facial videos from unauthorized customization under a limited and imperceptible perturbation budget. For Phase 1, we introduce Reference Capacity Collapse, a pair of complementary losses that degrade the information carried by the reference condition while keeping subsequent video representations dependent on it, together with a Motion-Guided EOT mechanism that improves robustness across unknown inference conditions. Phase 2 further considers tuning-based customization and unseen generative models. To address both threats within a single perturbation, we design a two-layer framework that protects the facial and background regions separately, constructing structure-aligned perturbations from a synthetic target identity in the former and strengthening the white-box disruption of Phase 1 in the latter. Our method achieves nearly perfect protection under white-box reference-based customization, and remains effective under other customization paradigms, various models, and temporal attacks. Both solutions are built upon our recent work LETHE. We hope our solutions can inspire future work on protecting facial videos against unauthorized customization. Our code is available at https://github.com/AntigoneRandy/KVeil.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.13733v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.01944v1cs.CV공통 태그 Privacy Preserving, Adversarial Attack, identity protection

Anti-Persona: 개인화된 비전-언어 모델에서의 무단 신원 바인딩 및 인식 교란

Anti-Persona: Disrupting Unauthorized Identity Binding and Recognition in Personalized Vision--Language Models

퓨샷(few-shot) 개인화는 대규모 비전-언어 모델(LVLM)이 사용자 특정 시각적 개념을 학습할 수 있게 하여 개인화된 검색 및 대상 인식 질의와 같은 응용을 가능하게 합니다. 그러나 이는 프라이버시 위험도 초래합니다. 공격자가 몇 장의 참조 이미지로부터 타깃의 신원을 바인딩한 후, 자연어 질의를 통해 새로운 이미지에서 해당 신원을 탐지할 수 있기 때문입니다. 본 논문에서는 개인화된 LVLM에서 무단 신원 바인딩 및 인식을 방지하기 위한 이미지 수준의 방어 기법인 Anti-Persona를 소개합니다. 우리의 핵심 통찰은 신원 개인화가 여러 참조 이미지에 걸쳐 공유되는 시각적 특징에 의존한다는 점입니다. 우리는 이러한 특징들을 하나의 신원 프로토타입으로 집계하고, 비전 인코더 공간에서 프로토타입 정렬(alignment)을 방해하는 시각적으로 미세한 섭동(perturbation)을 최적화합니다. 공간 평활화(spatial smoothing)와 저주파 성분 보존은 시각적 충실도를 더욱 높이고 이미지 압축에 대한 실질적인 회복력을 제공합니다. 이렇게 생성된 보호 효과는 특정 프롬프트(prompt)에 의존하지 않으며, 선제적인 안티-개인화와 사후 대응적인 이미지 보호를 모두 지원합니다. 대표적인 두 가지 개인화 LVLM에 대한 실험 결과, 시각적 충실도를 유지하면서 최대 $95.0\%$의 보호율을 달성함을 입증했습니다. 이 방법은 프롬프트 변형 및 평가된 신원 질의 태스크 전반에서 안정적으로 유지되며, 인코더 불일치 환경에서의 블랙박스 전이성을 향상시킵니다.

arXiv:2610.02418v2cs.CR공통 태그 Privacy Preserving, Adversarial Attack

Whiteout을 활용한 대규모 언어 모델(LLM)의 개인정보 유출 완화

Mitigating Private Data Leakage in LLMs with Whiteout

최신 대규모 언어 모델(LLM)은 거의 모든 접근 가능한 웹사이트에서 스크래핑한 콘텐츠와 사용자 입력을 포함하여 대부분 필터링되지 않은 방대한 데이터셋으로 학습(training)됩니다. 그 결과 LLM은 생년월일, 전화번호, 집 주소와 같은 민감한 개인정보(PSI)를 암기하고 그대로 재생성하는 경우가 많습니다. 이는 특히 경영진, 정치인, 판사와 같은 저명인사들에게 심각한 개인정보 침해 위험을 초래합니다. 기존의 완화 방법은 주로 머신 언러닝(machine unlearning)에 의존합니다. 그러나 이러한 방식은 종종 필요한 것보다 더 많은 정보를 제거하고, 모델의 유용성과 안전성(safety)을 저하시키며, 공격에 매우 취약합니다. 본 논문에서는 개인의 요청에 따라 정밀하고 세심하게 설계된 난독화 샘플로 덮어씀으로써 LLM이 실제 민감한 개인정보(PSI)를 그대로 토해내는 것을 방지하는 실용적인 도구인 Whiteout을 제시합니다. 널리 사용되는 OpenAI 모델을 포함하여 다양한 크기와 제조사의 최신 LLM에서 Whiteout을 평가(evaluation)합니다. 실험 결과, Whiteout은 대상 민감한 개인정보의 유출을 효과적으로 방지하고, 모델 유용성과 안전성에 미치는 영향이 미미하며, 기존 대안들보다 우수한 성능을 보였습니다. 또한 탈옥(jailbreaking)과 같은 블랙박스 공격부터 재학습(relearning) 및 양자화(quantization)와 같은 화이트박스 적응형 공격에 이르기까지 광범위한 대응 공격에 대해 Whiteout을 검증합니다. 마지막으로 Whiteout의 보안 및 윤리적 의미에 대한 논의로 결론을 맺습니다.

arXiv:2608.26535v2cs.AI공통 태그 Adversarial Attack, Video Generation

Multi2AV-Safety: 멀티모달-오디오-비디오 생성 모델의 안전성 벤치마킹

Multi2AV-Safety: Benchmarking Safety in Multimodal-to-Audio-Video Generation

최근 오디오-비디오 생성 모델은 텍스트, 이미지, 오디오, 비디오의 결합 조건화(joint conditioning)를 점진적으로 지원하고 있습니다. 이러한 기능은 교차 모달(cross-modal) 상호작용을 악용하거나 유해한 의도를 은폐하여 안전장치를 우회하고 유해한 오디오-비디오 출력을 유도하는 공격을 가능하게 하기도 합니다. 그러나 기존의 생성 안전성(generation-safety) 벤치마크는 이러한 발전을 따라가지 못하여, 멀티모달 입력 조합 및 은폐된 공격 의도에 대한 제한적인 커버리지만을 제공합니다. 이러한 격차를 해소하기 위해, 본 논문에서는 11개의 비단일(non-singleton) T/I/A/V 조건화 구성 전반, 4가지 공격 의도 범주, 5가지 위해(harm) 범주에 걸친 11,024개의 공격 인스턴스로 구성된 멀티모달-오디오-비디오 생성을 위한 최초의 전면적 레드팀 벤치마크 Multi2AV-Safety를 소개합니다. 4개의 멀티모달 조건부 오디오-비디오 생성 모델과 8개의 안전 가드를 포함한 최신 SOTA 모델을 평가한 결과, 생성 및 안전 보호 전반에서 상당한 취약점이 드러났으며, 멀티모달 구성적 위험과 은폐된 공격 의도 위험이 상호 보완적인 두 가지 과제로 대두되었습니다. 이러한 결과를 바탕으로, 본 논문에서는 구조화된 위험 인식 학습을 통해 구성적 위험 및 공격 의도에 대한 감독을 통합하는 옴니모달(omni-modal) 가드 PerceptGuard를 제안합니다. 근거 생성과 안전성 분류(classification)를 공동으로 학습(training)함으로써, 안전 헤드가 필요 시 설명을 생성하는 능력을 유지하면서도 근거 디코딩 없이 추론(inference) 시 효율적인 예측을 수행할 수 있도록 공유된 위험 표현을 학습합니다. 34개의 안전 벤치마크 전반에서 PerceptGuard는 SOTA 멀티모달 안전 탐지와 매우 경쟁력 있는 단일모달(unimodal) 성능을 결합하여, 옴니 모델에 대한 멀티모달 공격에 맞서는 입력단 안전장치를 강화합니다. 특히 앞서 언급한 위험에 대한 안전 보호를 향상하여 Multi2AV-Safety에서 86.06%의 종합 재현율(recall)을 달성하고 GuardReasoner-Omni를 14.56% 상회합니다.

arXiv:2608.25727v2cs.LG공통 태그 Privacy Preserving, Adversarial Attack

LLM 강화 그래프 신경망의 프라이버시 위험 감사

Auditing Privacy Risks in LLM-Enhanced Graph Neural Networks

최근 대규모 언어 모델(LLM)은 노드(node) 표현에 의미론적 정보를 풍부하게 더함으로써 그래프 신경망(GNN)을 발전시켰고, 이를 통해 상당한 성능 향상을 달성하는 LLM 강화 GNN(LLM-enhanced GNN)이 등장했습니다. 그러나 이러한 의미론적 강화가 프라이버시 위험에 어떤 영향을 미치는지는 여전히 거의 탐구되지 않았습니다. 이러한 격차를 해소하기 위해, 본 연구는 (1) 데이터셋 준비, (2) 피해자 모델 학습(training), (3) 프라이버시 공격, (4) 위험 평가, (5) 방어 분석의 5단계로 구성된 통합 프레임워크를 통해 LLM 강화 GNN의 프라이버시 위험을 체계적으로 감사합니다. 구체적으로, 본 평가는 다양한 도메인에 걸친 10개의 텍스트 속성 그래프 데이터셋, 6가지 프라이버시 공격, 42가지 LLM 강화 GNN 구성, 그리고 3개의 최신 언어 모델 백본을 포괄합니다. 광범위한 실험 결과에 따르면, 유용성 향상에도 불구하고 LLM 강화 GNN은 평가된 공격 하에서 다양한 모델과 데이터셋 전반에 걸쳐 얕은 텍스트 표현 베이스라인보다 경험적으로 일관되게 더 큰 프라이버시 취약성을 나타냅니다. 추가 분석을 통해 LLM 강화 표현이 임베딩(embedding) 공간에서 링크, 레이블 및 멤버십 관련 신호를 더 뚜렷하게 구별할 수 있게 하여 추론(inference) 공격에 더 쉽게 악용될 수 있음을 보여줍니다. 마지막으로, 대표적인 방어 기법들을 평가하고 이러한 프라이버시 위험을 완화하는 효과를 검토합니다. 전반적으로 본 연구는 LLM 강화 GNN의 프라이버시 위험에 대한 체계적인 감사를 제공하며, 보다 안전하고 신뢰할 수 있는 그래프 학습 시스템을 개발하기 위한 통찰을 제시합니다.

arXiv:2610.01871v1cs.CR공통 태그 Privacy Preserving, Adversarial Attack

임베딩 공간 탐색: 멀티모달 RAG로부터의 데이터스토어 추출

Walking the Embedding Space: Datastore Extraction from Multimodal RAG

멀티모달 검색-증강 생성(MRAG)은 멀티모달 대규모 언어 모델(MLLM)의 생성 능력을 관련성 높고 최신의 외부 지식에 그라운딩(grounding)하는 신뢰성 있고 비용 효율적인 기법으로 부상했습니다. 환각(hallucination) 동작 완화와 같은 여러 이점을 제공함에도 불구하고, 개인정보 유출 및 데이터 추출 공격에 대한 취약성을 포함한 새로운 공격 표면 또한 초래합니다. 본 논문에서는 검색된 시각적 아티팩트 자체가 응답이 되는 구성인 \emph{image-returning} MRAG를 대상으로 블랙박스 환경에서 동작하는 적응형 자동 데이터 추출 공격 절차인 $\immrag$를 소개합니다. 각 쿼리는 공격자가 보유한 섀도우(shadow) 이미지와 시스템으로부터 이미 복구된 이미지를 혼합하며, 관련성 가중 재샘플링을 통해 후속 쿼리를 여전히 새로운 검색 결과를 산출하는 임베딩 공간 영역으로 유도합니다. 텍스트 프롬프트 형태로 악의적인 쿼리를 배치하여 모델이 데이터를 유출하도록 유도하는 기존 추출 공격과 달리, $\immrag$는 사용자가 제공하는 입력 이미지 내에 악의적인 지침을 임베딩합니다. 우리는 의료 보조, 문서 중심 도우미, 범용 도구라는 타당하고 뚜렷이 구별되는 세 가지 실제 시나리오에서 $\immrag$를 평가합니다. 실험에는 다양한 CLIP 계열 검색기(retriever)에 대한 공격 효과 분석과 여러 생성기(generator)의 영향 연구가 포함됩니다. 단 2500회 쿼리 실행만으로 로컬 특징(local-feature) 대응 하에 최대 611개의 고유한 방사선 이미지, 566개의 문서 스캔, 416개의 범용 이미지를 재구성하며, 비적응형 기준선(baseline) 대비 최대 $5.6\times$ 더 많은 고유 데이터스토어 항목을 확보합니다. 우리의 결과는 멀티모달 데이터에 맞게 특별히 설계된 안전장치의 시급한 필요성을 보여줍니다.

arXiv:2609.27022v1cs.CV공통 태그 Privacy Preserving, Adversarial Attack

비식별화 시스템에서의 적대적 공격과 신원 유출: 실증 연구

Adversarial Attacks and Identity Leakage in De-Identification Systems: An Empirical Study

본 논문에서는 현실적인 비식별화 프레임워크 내 신원 인코더에 대한 적대적 공격의 영향을 조사한다. 실험 결과, 외부 대리 모델에서 시스템 모델(예: CosFace에서 ArcFace)로 공격의 전이(transferability)가 이루어질 때, 공격자가 충분히 민감한 얼굴 인식 시스템에서 신원 정보가 유출되도록 할 수 있음을 보여준다. 우리는 실험적 근거를 제시하고 이 취약성을 완화하기 위한 전략을 제안한다. 구체적으로, 적대적 예제에 대한 미세조정이 왜곡 기반 공격(즉, snow, fog 등)에 대한 이 효과를 완화하는 데 도움이 되는 방법을 보이며, 단순 저역 통과 필터는 비식별화된 이미지에 영향을 주지 않으면서 적대적 노이즈의 효과를 줄일 수 있음을 보인다. 이러한 완화 방법은 기능을 유지하면서 적대적 노이즈에 대해 훨씬 더 견고한 비식별화 시스템을 만든다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.