arXiv:2404.00777

Privacy-preserving Optics for Enhancing Protection in Face De-identification

Jhon Lopez, Carlos Hinojosa, Henry Arguello, Bernard Ghanem

제출 2024-03-31

원문 초록

The modern surge in camera usage alongside widespread computer vision technology applications poses significant privacy and security concerns. Current artificial intelligence (AI) technologies aid in recognizing relevant events and assisting in daily tasks in homes, offices, hospitals, etc. The need to access or process personal information for these purposes raises privacy concerns. While software-level solutions like face de-identification provide a good privacy/utility trade-off, they present vulnerabilities to sniffing attacks. In this paper, we propose a hardware-level face de-identification method to solve this vulnerability. Specifically, our approach first learns an optical encoder along with a regression model to obtain a face heatmap while hiding the face identity from the source image. We also propose an anonymization framework that generates a new face using the privacy-preserving image, face heatmap, and a reference face image from a public dataset as input. We validate our approach with extensive simulations and hardware experiments.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2606.30312v1cs.CL공통 태그 Privacy Preserving, De-identification

DialogPII: 개인정보 탐지를 위한 합성 대화 전사문의 다국어 데이터셋

DialogPII: A multilingual dataset of synthetic dialog transcripts to detect personal information

의료 또는 사회과학 분야에서 수집된 대화 데이터는 연구 및 자동화 분석에 있어 귀중한 자원이다. 그러나 책임감 있는 데이터 공유를 위해서는 개인 프라이버시 보호를 위한 개인 식별 및 민감 정보의 탐지와 제거가 필요하다. 자동 비식별화 시스템의 개발 및 평가를 지원하기 위해, 우리는 개인정보 탐지를 위한 합성 대화 및 음성 전사문의 다국어 데이터셋인 DialogPII를 제안한다. DialogPII는 8가지 상호작용 시나리오(긴급 전화, 의료 문진 인터뷰, 치료 세션, 보험 상담, 고객 지원, AI 지원 대시보드 관련 임상 인터뷰, 경찰 보고서, 집단 치료 토론), 19개의 개체 유형, 11개 언어(영어, 아랍어, 핀란드어, 프랑스어, 독일어, 힌디어, 이탈리아어, 폴란드어, 포르투갈어, 스페인어, 터키어)를 포함한다. 대화는 대규모 언어 모델(LLM)을 활용하여 반자동으로 생성되었으며, 타당성과 다양성을 위해 수동으로 검수되었고, 국가 및 도시별 맥락에 맞게 현지화되었다. 모든 대화는 텍스트 음성 변환(text-to-speech) 합성을 통해 음성으로 변환되고, Whisper로 전사되었으며, 자동 투영 및 수동 교정을 통해 어노테이션이 부여되어 모든 언어에 걸쳐 정렬된 문어체 및 음성 전사 자원이 생성되었다. 또한 기준선(baseline) 다국어 개체명 인식(named entity recognition) 모델을 공개하고, 어노테이터 간 일치도 분석, 번역 품질 평가, 어노테이션 투영 평가, 트랜스포머(transformer) 기반 시퀀스 레이블링 모델을 활용한 벤치마크 실험을 통해 기술적 검증(validation)을 제공한다.

arXiv:2606.18372v1cs.CL공통 태그 Privacy Preserving, De-identification

수정할 것인가 유지할 것인가? 교육 대화 비식별화를 위한 완전 로컬 AI 캐스케이드

Redact or Keep? A Fully Local AI Cascade for Educational Dialogue De-Identification

교육 대화는 연구를 위한 가치 있지만 민감한 자원입니다. 실제 학습 상황을 포착하는 동일한 대본은 종종 교육 커리큘럼 내용과 뒤섞인 개인 식별 정보(PII)를 포착하며, 여기서 "Riemann"은 실제 학생이나 수학적 개념을 지칭할 수 있습니다. 기존 접근 방식은 거버넌스와 정확도 사이의 상충 관계(trade-off)를 강요합니다. 상용 대규모 언어 모델(LLM)은 이러한 모호성을 처리할 수 있지만 학생 데이터를 제3자에게 전송해야 하는 반면, 로컬 개체명 인식(NER) 시스템은 거버넌스를 유지하지만 교육 용어를 과도하게 수정(over-redact)하는 문제가 있습니다. 본 연구에서는 비식별화 문제를 개방형 개체 인식에서 제한된 프라이버시 선별(triage)로 재정의하는 완전 로컬 캐스케이드 프레임워크를 제안합니다. 재현율 우선(recall-first) 결합 제안자는 두 개의 경량 인코더와 결정론적 규칙을 결합하여 후보 구간을 과도하게 생성하며, 문맥 인식 검토자는 주변 대화와 발화자 역할을 활용하여 각 후보에 대해 이진 수정(Redact)/유지(Keep) 결정을 내립니다. 두 개의 대규모 플랫폼에서 수집한 수학 과외 대본을 통해 세 가지 검토자 구성을 동일 계열 LLM 전용 기준선(baseline) 및 상용 API와 비교 평가했습니다. 가장 강력한 로컬 구성은 단일 노트북에서 완전히 실행되면서 0.958의 매크로 F1 점수를 달성했으며, 이는 동일 계열 LLM 전용 기준선의 0.767 및 상용 API의 0.706과 대비됩니다. 교육용-개인명 모호성에 대한 표적화된 챌린지 세트에서 해당 구성은 F1 점수가 0.03만큼만 저하된 반면, 더 작은 검토자들은 0.19에서 0.25까지 저하되었습니다. 이러한 결과는 교육 데이터 비식별화에 있어 문제 정의가 모델 규모보다 더 중요하다는 것을 시사합니다.

arXiv:2607.05479v2cs.CR공통 태그 Privacy Preserving

생성형 AI 워크플로우에서의 특권과 기밀성

Privilege and confidentiality in generative AI workflows

생성형 AI(GenAI) 시스템은 클라이언트 데이터를 세 가지 방식으로 저장하고 처리한다: 학습과 기억화를 통해 모델의 파라미터에, 실시간 세션 중 컨텍스트 윈도우에, 그리고 검색-증강 생성(RAG)을 위한 지식 데이터베이스에. 각 방식은 기밀성과 법적 직업상 특권에 대해 서로 다르고 종종 반직관적인 위험을 초래하며, 각각 특정한 거버넌스 대응을 요구한다. 특권과 생성형 AI를 다룬 최초의 영국 및 미국 판결인 UK and Munir v Secretary of State for the Home Department와 United States v Heppner, 이 판결들이 해석되어야 할 기존의 특권 판례들, 그리고 최근의 컴퓨터 과학 연구를 바탕으로, 우리는 실무자들이 이해할 수 있는 방식으로 데이터 저장 및 처리의 세 가지 방식을 설명하고 각각의 법적 결과를 분석한다. 이어서 우리는 이 분석을 잉글랜드 및 웨일스의 사무변호사를 규율하는 규제 체계와 통상적인 직업상 과실의 일반 원칙 내에 위치시키며, 효과적인 정보 거버넌스의 기준(그리고 그에 따라 과실 및 위법 행위를 판단하는 벤치마크)이 변화하고 있다고 주장한다. 우리는 주로 SRA 규제를 받는 실무자들을 대상으로 서술하지만, 데이터 거버넌스 분석은 특권 또는 직업상 비밀의 보호가 증명 가능한 기밀성에 달려 있는 모든 법적 관할권으로 확장될 수 있도록 구성하였다. 이 논문의 궁극적인 목적은 법률 서비스 전문가들이 GenAI 시스템에서의 주요 데이터 유출 위험을 이해하도록 돕고, 이를 통해 클라이언트 데이터 및 기타 민감한 자료에 대한 GenAI의 보다 책임 있는 배포를 촉진하는 것이다.

arXiv:2607.09767v2eess.SP공통 태그 Privacy Preserving

특징에 귀 기울여라: 신호 재구성 대신 콘텐츠 임베딩 매칭으로 구동되는 음성 익명화

Listen to the Features: Voice Anonymization Driven by Content Embedding Matching over Signal Reconstruction

이 논문은 사실적인 음성을 생성하는 것보다 콘텐츠를 보존하는 데 초점을 맞춘 음성 익명화 모델을 제안한다. 이 모델은 동결된 사전학습 wav2vec2 인코더에서 추출한 콘텐츠 임베딩에 의존한다. 해당 임베딩은 벡터 양자화와 HiFi-GAN 보코더를 사용하여 익명화된 신호로 디코딩되며, 두 모듈 모두 파형 재구성 손실이나 화자 임베딩 매핑 없이 LibriTTS로 학습된다. 학습 목적함수는 익명화된 신호의 임베딩이 원본의 임베딩과 일치하도록 강제한다. 학습 중에는 화자별 정보를 제거하기 위해 그래디언트 역전 층이 포함된 보조 화자 분류 브랜치가 사용된다. 실험 결과, 이 간단한 임베딩 기반 접근법은 매우 낮은 WER(2.53)을 달성하며, 익명화 성능(EER 13.39)은 VPC에서 1등급 수준에 해당한다. 특히, 별도의 학습 목적함수 없이도 감정이 부분적으로 보존되고(UAR 43.91), 익명화된 음성은 재구성 손실 없이도 청취 가능하다.

arXiv:2610.02418v2cs.CR공통 태그 Privacy Preserving

Whiteout을 활용한 대규모 언어 모델(LLM)의 개인정보 유출 완화

Mitigating Private Data Leakage in LLMs with Whiteout

최신 대규모 언어 모델(LLM)은 거의 모든 접근 가능한 웹사이트에서 스크래핑한 콘텐츠와 사용자 입력을 포함하여 대부분 필터링되지 않은 방대한 데이터셋으로 학습(training)됩니다. 그 결과 LLM은 생년월일, 전화번호, 집 주소와 같은 민감한 개인정보(PSI)를 암기하고 그대로 재생성하는 경우가 많습니다. 이는 특히 경영진, 정치인, 판사와 같은 저명인사들에게 심각한 개인정보 침해 위험을 초래합니다. 기존의 완화 방법은 주로 머신 언러닝(machine unlearning)에 의존합니다. 그러나 이러한 방식은 종종 필요한 것보다 더 많은 정보를 제거하고, 모델의 유용성과 안전성(safety)을 저하시키며, 공격에 매우 취약합니다. 본 논문에서는 개인의 요청에 따라 정밀하고 세심하게 설계된 난독화 샘플로 덮어씀으로써 LLM이 실제 민감한 개인정보(PSI)를 그대로 토해내는 것을 방지하는 실용적인 도구인 Whiteout을 제시합니다. 널리 사용되는 OpenAI 모델을 포함하여 다양한 크기와 제조사의 최신 LLM에서 Whiteout을 평가(evaluation)합니다. 실험 결과, Whiteout은 대상 민감한 개인정보의 유출을 효과적으로 방지하고, 모델 유용성과 안전성에 미치는 영향이 미미하며, 기존 대안들보다 우수한 성능을 보였습니다. 또한 탈옥(jailbreaking)과 같은 블랙박스 공격부터 재학습(relearning) 및 양자화(quantization)와 같은 화이트박스 적응형 공격에 이르기까지 광범위한 대응 공격에 대해 Whiteout을 검증합니다. 마지막으로 Whiteout의 보안 및 윤리적 의미에 대한 논의로 결론을 맺습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.