PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.01944v1cs.CV

Anti-Persona: 개인화된 비전-언어 모델에서의 무단 신원 바인딩 및 인식 교란

Anti-Persona: Disrupting Unauthorized Identity Binding and Recognition in Personalized Vision--Language Models

퓨샷(few-shot) 개인화는 대규모 비전-언어 모델(LVLM)이 사용자 특정 시각적 개념을 학습할 수 있게 하여 개인화된 검색 및 대상 인식 질의와 같은 응용을 가능하게 합니다. 그러나 이는 프라이버시 위험도 초래합니다. 공격자가 몇 장의 참조 이미지로부터 타깃의 신원을 바인딩한 후, 자연어 질의를 통해 새로운 이미지에서 해당 신원을 탐지할 수 있기 때문입니다. 본 논문에서는 개인화된 LVLM에서 무단 신원 바인딩 및 인식을 방지하기 위한 이미지 수준의 방어 기법인 Anti-Persona를 소개합니다. 우리의 핵심 통찰은 신원 개인화가 여러 참조 이미지에 걸쳐 공유되는 시각적 특징에 의존한다는 점입니다. 우리는 이러한 특징들을 하나의 신원 프로토타입으로 집계하고, 비전 인코더 공간에서 프로토타입 정렬(alignment)을 방해하는 시각적으로 미세한 섭동(perturbation)을 최적화합니다. 공간 평활화(spatial smoothing)와 저주파 성분 보존은 시각적 충실도를 더욱 높이고 이미지 압축에 대한 실질적인 회복력을 제공합니다. 이렇게 생성된 보호 효과는 특정 프롬프트(prompt)에 의존하지 않으며, 선제적인 안티-개인화와 사후 대응적인 이미지 보호를 모두 지원합니다. 대표적인 두 가지 개인화 LVLM에 대한 실험 결과, 시각적 충실도를 유지하면서 최대 $95.0\%$의 보호율을 달성함을 입증했습니다. 이 방법은 프롬프트 변형 및 평가된 신원 질의 태스크 전반에서 안정적으로 유지되며, 인코더 불일치 환경에서의 블랙박스 전이성을 향상시킵니다.