arXiv:2610.01944v1 cs.CV

Anti-Persona: 개인화된 비전-언어 모델에서의 무단 신원 바인딩 및 인식 교란

Anti-Persona: Disrupting Unauthorized Identity Binding and Recognition in Personalized Vision--Language Models

Abhishek Basu, Fahad Shamshad, Karthik Nandakumar

제출 2026-10-01

저자 비고

arXiv Comments

Code available at https://github.com/iabh1shekbasu/anti-persona

한국어 초록

퓨샷(few-shot) 개인화는 대규모 비전-언어 모델(LVLM)이 사용자 특정 시각적 개념을 학습할 수 있게 하여 개인화된 검색 및 대상 인식 질의와 같은 응용을 가능하게 합니다. 그러나 이는 프라이버시 위험도 초래합니다. 공격자가 몇 장의 참조 이미지로부터 타깃의 신원을 바인딩한 후, 자연어 질의를 통해 새로운 이미지에서 해당 신원을 탐지할 수 있기 때문입니다. 본 논문에서는 개인화된 LVLM에서 무단 신원 바인딩 및 인식을 방지하기 위한 이미지 수준의 방어 기법인 Anti-Persona를 소개합니다. 우리의 핵심 통찰은 신원 개인화가 여러 참조 이미지에 걸쳐 공유되는 시각적 특징에 의존한다는 점입니다. 우리는 이러한 특징들을 하나의 신원 프로토타입으로 집계하고, 비전 인코더 공간에서 프로토타입 정렬(alignment)을 방해하는 시각적으로 미세한 섭동(perturbation)을 최적화합니다. 공간 평활화(spatial smoothing)와 저주파 성분 보존은 시각적 충실도를 더욱 높이고 이미지 압축에 대한 실질적인 회복력을 제공합니다. 이렇게 생성된 보호 효과는 특정 프롬프트(prompt)에 의존하지 않으며, 선제적인 안티-개인화와 사후 대응적인 이미지 보호를 모두 지원합니다. 대표적인 두 가지 개인화 LVLM에 대한 실험 결과, 시각적 충실도를 유지하면서 최대 $95.0\%$의 보호율을 달성함을 입증했습니다. 이 방법은 프롬프트 변형 및 평가된 신원 질의 태스크 전반에서 안정적으로 유지되며, 인코더 불일치 환경에서의 블랙박스 전이성을 향상시킵니다.

원문 초록

Few-shot personalization enables large vision--language models (LVLMs) to learn user-specific visual concepts for applications such as personalized retrieval and subject-aware querying. However, it also creates a privacy risk: an adversary can bind a target identity from a few reference images and subsequently detect that identity in new images through natural-language queries. We introduce Anti-Persona, an image-level defense against unauthorized identity binding and recognition in personalized LVLMs. Our key insight is that identity personalization relies on visual features shared across multiple reference images. We aggregate these features into an identity prototype and optimize visually subtle perturbations that disrupt prototype alignment in the vision-encoder space. Spatial smoothing and low-frequency preservation further promote visual fidelity and practical resilience to image compression. The resulting protection does not depend on a specific prompt and supports both proactive anti-personalization and reactive image protection. Experiments on two representative personalized LVLMs demonstrate protection rates of up to $95.0\%$ while preserving visual fidelity. The method remains stable across prompt variations and evaluated identity-query tasks, and improves black-box transfer under encoder mismatch.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.01944v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13733v1cs.CV공통 태그 Privacy Preserving, Adversarial Attack, identity protection

KVeil: 학습 불가능한 비디오에 관한 ECCV 2026 LifeGenIP 챌린지 1위 솔루션

KVeil: First-Place Solution to ECCV 2026 LifeGenIP Challenge on Unlearnable Videos

개인화된 비디오 생성 기술의 급격한 발전으로 몇 개의 인물 얼굴 비디오만으로도 합성 비디오에서 해당 신원을 재현할 수 있게 되면서, 신원 프라이버시에 대한 심각한 우려가 제기되고 있습니다. 본 보고서에서는 제한적이고 감지할 수 없는 섭동(perturbation) 예산 내에서 무단 맞춤 제작(customization)으로부터 얼굴 비디오를 보호하는 것을 목표로 하는 학습 불가능한 비디오(Unlearnable Videos) 대상 ECCV 2026 LifeGenIP 챌린지의 두 단계 모두에서 1위를 차지한 솔루션을 제시합니다. 1단계(Phase 1)에서는 후속 비디오 표현이 참조 조건에 계속 의존하도록 유지하면서도 참조 조건이 전달하는 정보를 저하시키는 한 쌍의 상호보완적 손실인 참조 용량 붕괴(Reference Capacity Collapse)와 함께, 미지의 추론(inference) 조건 전반에서 강건성을 향상시키는 모션 유도 EOT(Motion-Guided EOT) 메커니즘을 도입합니다. 2단계(Phase 2)에서는 튜닝 기반 맞춤 제작과 미확인 생성 모델까지 추가로 고려합니다. 단일 섭동 내에서 두 가지 위협을 모두 해결하기 위해, 얼굴과 배경 영역을 분리하여 보호하는 2층(two-layer) 프레임워크를 설계하였으며, 전자에서는 합성 타깃 신원으로부터 구조 정렬 섭동을 구성하고 후자에서는 1단계의 화이트박스 교란을 강화합니다. 제안하는 방법은 화이트박스 참조 기반 맞춤 제작 환경에서 거의 완벽한 보호를 달성하며, 다른 맞춤 제작 패러다임, 다양한 모델 및 시간적 공격(temporal attack) 하에서도 여전히 효과적입니다. 두 솔루션 모두 최근 연구인 LETHE를 기반으로 구축되었습니다. 본 솔루션이 무단 맞춤 제작으로부터 얼굴 비디오를 보호하는 미래 연구에 영감을 주기를 기대합니다. 코드는 https://github.com/AntigoneRandy/KVeil 에서 이용할 수 있습니다.

arXiv:2610.02418v2cs.CR공통 태그 Privacy Preserving, Adversarial Attack

Whiteout을 활용한 대규모 언어 모델(LLM)의 개인정보 유출 완화

Mitigating Private Data Leakage in LLMs with Whiteout

최신 대규모 언어 모델(LLM)은 거의 모든 접근 가능한 웹사이트에서 스크래핑한 콘텐츠와 사용자 입력을 포함하여 대부분 필터링되지 않은 방대한 데이터셋으로 학습(training)됩니다. 그 결과 LLM은 생년월일, 전화번호, 집 주소와 같은 민감한 개인정보(PSI)를 암기하고 그대로 재생성하는 경우가 많습니다. 이는 특히 경영진, 정치인, 판사와 같은 저명인사들에게 심각한 개인정보 침해 위험을 초래합니다. 기존의 완화 방법은 주로 머신 언러닝(machine unlearning)에 의존합니다. 그러나 이러한 방식은 종종 필요한 것보다 더 많은 정보를 제거하고, 모델의 유용성과 안전성(safety)을 저하시키며, 공격에 매우 취약합니다. 본 논문에서는 개인의 요청에 따라 정밀하고 세심하게 설계된 난독화 샘플로 덮어씀으로써 LLM이 실제 민감한 개인정보(PSI)를 그대로 토해내는 것을 방지하는 실용적인 도구인 Whiteout을 제시합니다. 널리 사용되는 OpenAI 모델을 포함하여 다양한 크기와 제조사의 최신 LLM에서 Whiteout을 평가(evaluation)합니다. 실험 결과, Whiteout은 대상 민감한 개인정보의 유출을 효과적으로 방지하고, 모델 유용성과 안전성에 미치는 영향이 미미하며, 기존 대안들보다 우수한 성능을 보였습니다. 또한 탈옥(jailbreaking)과 같은 블랙박스 공격부터 재학습(relearning) 및 양자화(quantization)와 같은 화이트박스 적응형 공격에 이르기까지 광범위한 대응 공격에 대해 Whiteout을 검증합니다. 마지막으로 Whiteout의 보안 및 윤리적 의미에 대한 논의로 결론을 맺습니다.

arXiv:2608.25727v2cs.LG공통 태그 Privacy Preserving, Adversarial Attack

LLM 강화 그래프 신경망의 프라이버시 위험 감사

Auditing Privacy Risks in LLM-Enhanced Graph Neural Networks

최근 대규모 언어 모델(LLM)은 노드(node) 표현에 의미론적 정보를 풍부하게 더함으로써 그래프 신경망(GNN)을 발전시켰고, 이를 통해 상당한 성능 향상을 달성하는 LLM 강화 GNN(LLM-enhanced GNN)이 등장했습니다. 그러나 이러한 의미론적 강화가 프라이버시 위험에 어떤 영향을 미치는지는 여전히 거의 탐구되지 않았습니다. 이러한 격차를 해소하기 위해, 본 연구는 (1) 데이터셋 준비, (2) 피해자 모델 학습(training), (3) 프라이버시 공격, (4) 위험 평가, (5) 방어 분석의 5단계로 구성된 통합 프레임워크를 통해 LLM 강화 GNN의 프라이버시 위험을 체계적으로 감사합니다. 구체적으로, 본 평가는 다양한 도메인에 걸친 10개의 텍스트 속성 그래프 데이터셋, 6가지 프라이버시 공격, 42가지 LLM 강화 GNN 구성, 그리고 3개의 최신 언어 모델 백본을 포괄합니다. 광범위한 실험 결과에 따르면, 유용성 향상에도 불구하고 LLM 강화 GNN은 평가된 공격 하에서 다양한 모델과 데이터셋 전반에 걸쳐 얕은 텍스트 표현 베이스라인보다 경험적으로 일관되게 더 큰 프라이버시 취약성을 나타냅니다. 추가 분석을 통해 LLM 강화 표현이 임베딩(embedding) 공간에서 링크, 레이블 및 멤버십 관련 신호를 더 뚜렷하게 구별할 수 있게 하여 추론(inference) 공격에 더 쉽게 악용될 수 있음을 보여줍니다. 마지막으로, 대표적인 방어 기법들을 평가하고 이러한 프라이버시 위험을 완화하는 효과를 검토합니다. 전반적으로 본 연구는 LLM 강화 GNN의 프라이버시 위험에 대한 체계적인 감사를 제공하며, 보다 안전하고 신뢰할 수 있는 그래프 학습 시스템을 개발하기 위한 통찰을 제시합니다.

arXiv:2609.05253v2cs.LG공통 태그 Privacy Preserving, Few-Shot Learning

GLASS: 전이 가능한 그래프 수준 이상치 탐지를 위한 구면 점수화 기반 그래프-언어 정렬

GLASS: Graph-Language Alignment with Spherical Scoring for Transferable Graph-Level Anomaly Detection

본 논문에서는 단위 초구(unit hypersphere) 상의 그래프-언어 정렬을 통해 강력한 도메인 간 전이 가능성(cross-domain transferability)을 달성하는 그래프 수준 이상치 탐지(GLAD) 프레임워크인 GLASS를 소개합니다. GLASS는 다중 슬라이스 소프트 코사인 목적 함수(multi-slice soft cosine objective)를 통해 구조 인지 그래프 인코더와 지시 인지(instruction-aware) 텍스트 임베딩을 정렬하여 통합된 표현 공간을 구축합니다. 본 프레임워크는 국소적, 전역적, 의미론적 그래프 속성을 압축된 그래프 기술자 프롬프트(GraphDP)로 직렬화하여 도메인에 구애받지 않는 이상치 점수화를 가능하게 하는 텍스트 가교를 만듭니다. 마트료시카 표현 슬라이스(Matryoshka representation slices)를 통해 다중 스케일 일관성을 강제함으로써, 모델은 다양한 입도 수준에서 이상 편차를 포착합니다. 우리는 이상치 탐지를 정렬된 초구 상에서의 밀도 추정 문제로 정식화하고, 그래프 및 텍스트 임베딩 공간 모두에서 폰 미제스-피셔(von Mises-Fisher) 커널 밀도 추정기를 인스턴스화하는 구면 멀티모달 점수화(SMS)를 도입합니다. 이러한 확률론적 정식화는 고밀집 극한(high-concentration limit)에서 각도 기반 1-최근접 이웃 점수화를 복원하고, 실용적인 평균 k-최근접 이웃 점수 계산기에 이론적 동기를 부여하며, 구조적 및 의미론적 이상 신호의 원칙적인 융합을 제공합니다. 공유된 텍스트 임베딩 공간은 도메인 간 가교 역할도 수행합니다. 타깃 도메인 학습 데이터 없이도 타깃 도메인의 GraphDP를 인코딩하여 제로샷(zero-shot) 이상치 탐지를 수행하며, 소수의 정상 예시만으로 참조 세트 보정(reference-set calibration)을 통한 퓨샷(few-shot) 적응을 수행합니다. 프라이버시에 민감한 배포 환경을 위해, 우리는 프라이빗 타깃 참조와 무관하게 인코더를 고정한 상태로 유지하면서 그래프 레코드 차분 프라이버시(differential privacy)를 제공하는 유계 결합 그래프-텍스트 커널 요약으로 참조 세트 보정을 확장합니다. 12개의 벤치마크와 3개의 메타 도메인에 걸친 실험에서, GLASS는 최신 고급 GLAD 베이스라인들과 비교해 최고의 평균 AUROC 및 순위를 달성하며 효과적인 도메인 간 전이를 가능하게 합니다.

arXiv:2610.01871v1cs.CR공통 태그 Privacy Preserving, Adversarial Attack

임베딩 공간 탐색: 멀티모달 RAG로부터의 데이터스토어 추출

Walking the Embedding Space: Datastore Extraction from Multimodal RAG

멀티모달 검색-증강 생성(MRAG)은 멀티모달 대규모 언어 모델(MLLM)의 생성 능력을 관련성 높고 최신의 외부 지식에 그라운딩(grounding)하는 신뢰성 있고 비용 효율적인 기법으로 부상했습니다. 환각(hallucination) 동작 완화와 같은 여러 이점을 제공함에도 불구하고, 개인정보 유출 및 데이터 추출 공격에 대한 취약성을 포함한 새로운 공격 표면 또한 초래합니다. 본 논문에서는 검색된 시각적 아티팩트 자체가 응답이 되는 구성인 \emph{image-returning} MRAG를 대상으로 블랙박스 환경에서 동작하는 적응형 자동 데이터 추출 공격 절차인 $\immrag$를 소개합니다. 각 쿼리는 공격자가 보유한 섀도우(shadow) 이미지와 시스템으로부터 이미 복구된 이미지를 혼합하며, 관련성 가중 재샘플링을 통해 후속 쿼리를 여전히 새로운 검색 결과를 산출하는 임베딩 공간 영역으로 유도합니다. 텍스트 프롬프트 형태로 악의적인 쿼리를 배치하여 모델이 데이터를 유출하도록 유도하는 기존 추출 공격과 달리, $\immrag$는 사용자가 제공하는 입력 이미지 내에 악의적인 지침을 임베딩합니다. 우리는 의료 보조, 문서 중심 도우미, 범용 도구라는 타당하고 뚜렷이 구별되는 세 가지 실제 시나리오에서 $\immrag$를 평가합니다. 실험에는 다양한 CLIP 계열 검색기(retriever)에 대한 공격 효과 분석과 여러 생성기(generator)의 영향 연구가 포함됩니다. 단 2500회 쿼리 실행만으로 로컬 특징(local-feature) 대응 하에 최대 611개의 고유한 방사선 이미지, 566개의 문서 스캔, 416개의 범용 이미지를 재구성하며, 비적응형 기준선(baseline) 대비 최대 $5.6\times$ 더 많은 고유 데이터스토어 항목을 확보합니다. 우리의 결과는 멀티모달 데이터에 맞게 특별히 설계된 안전장치의 시급한 필요성을 보여줍니다.

arXiv:2609.27022v1cs.CV공통 태그 Privacy Preserving, Adversarial Attack

비식별화 시스템에서의 적대적 공격과 신원 유출: 실증 연구

Adversarial Attacks and Identity Leakage in De-Identification Systems: An Empirical Study

본 논문에서는 현실적인 비식별화 프레임워크 내 신원 인코더에 대한 적대적 공격의 영향을 조사한다. 실험 결과, 외부 대리 모델에서 시스템 모델(예: CosFace에서 ArcFace)로 공격의 전이(transferability)가 이루어질 때, 공격자가 충분히 민감한 얼굴 인식 시스템에서 신원 정보가 유출되도록 할 수 있음을 보여준다. 우리는 실험적 근거를 제시하고 이 취약성을 완화하기 위한 전략을 제안한다. 구체적으로, 적대적 예제에 대한 미세조정이 왜곡 기반 공격(즉, snow, fog 등)에 대한 이 효과를 완화하는 데 도움이 되는 방법을 보이며, 단순 저역 통과 필터는 비식별화된 이미지에 영향을 주지 않으면서 적대적 노이즈의 효과를 줄일 수 있음을 보인다. 이러한 완화 방법은 기능을 유지하면서 적대적 노이즈에 대해 훨씬 더 견고한 비식별화 시스템을 만든다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.