생성형 AI(GenAI) 시스템은 클라이언트 데이터를 세 가지 방식으로 저장하고 처리한다: 학습과 기억화를 통해 모델의 파라미터에, 실시간 세션 중 컨텍스트 윈도우에, 그리고 검색-증강 생성(RAG)을 위한 지식 데이터베이스에. 각 방식은 기밀성과 법적 직업상 특권에 대해 서로 다르고 종종 반직관적인 위험을 초래하며, 각각 특정한 거버넌스 대응을 요구한다. 특권과 생성형 AI를 다룬 최초의 영국 및 미국 판결인 UK and Munir v Secretary of State for the Home Department와 United States v Heppner, 이 판결들이 해석되어야 할 기존의 특권 판례들, 그리고 최근의 컴퓨터 과학 연구를 바탕으로, 우리는 실무자들이 이해할 수 있는 방식으로 데이터 저장 및 처리의 세 가지 방식을 설명하고 각각의 법적 결과를 분석한다. 이어서 우리는 이 분석을 잉글랜드 및 웨일스의 사무변호사를 규율하는 규제 체계와 통상적인 직업상 과실의 일반 원칙 내에 위치시키며, 효과적인 정보 거버넌스의 기준(그리고 그에 따라 과실 및 위법 행위를 판단하는 벤치마크)이 변화하고 있다고 주장한다. 우리는 주로 SRA 규제를 받는 실무자들을 대상으로 서술하지만, 데이터 거버넌스 분석은 특권 또는 직업상 비밀의 보호가 증명 가능한 기밀성에 달려 있는 모든 법적 관할권으로 확장될 수 있도록 구성하였다. 이 논문의 궁극적인 목적은 법률 서비스 전문가들이 GenAI 시스템에서의 주요 데이터 유출 위험을 이해하도록 돕고, 이를 통해 클라이언트 데이터 및 기타 민감한 자료에 대한 GenAI의 보다 책임 있는 배포를 촉진하는 것이다.
AI 모델은 소셜 미디어 및 공개 플랫폼에서 수집된 개인 이미지로 점점 더 많이 학습되고 있으며, 이는 종종 동의 없이 이루어져 무단 안면 인식 및 타깃 광고와 같은 심각한 개인정보 침해로 이어지고 있다. 이에 대응하기 위해 연구자들은 학습 불가 예제(unlearnable examples, UEs)를 개발하였는데, 이는 AI 모델이 의미 있는 정보를 추출하지 못하도록 감지 불가능한 노이즈로 수정된 이미지이다. 그러나 기존 UE 방법들은 주로 픽셀 공간의 노이즈에 의존하며, 이는 적대적 학습, 이미지 변환, 압축과 같은 재학습 전략에 의해 우회될 수 있다. 일부 기법들이 견고성을 향상시키지만, 이미지 유용성과 지각적 품질의 상당한 저하를 수반하는 경우가 많다. 본 논문에서는 픽셀 공간 대신 이미지의 의미 공간에 노이즈를 주입함으로써 이러한 한계를 극복하는 DiffUE를 제안한다. 픽셀 값을 손상시키는 대신, DiffUE는 이미지의 고수준 의미 특징을 수정하여 시각적 품질과 유용성을 보존하면서 견고한 학습불가성을 보장한다. 확산 기반 오토인코더 프레임워크를 활용하여 의미 특징을 조작함으로써, DiffUE는 고급 재학습 전략에 효과적으로 저항하는 자연스러운 외관의 의도적 수정을 생성한다. CIFAR-10, CIFAR-100, CelebA-HQ, ImageNet의 네 가지 데이터셋에 대한 광범위한 실험과 주관적 사용자 연구를 통해, DiffUE가 이미지 품질과 학습불가성 간의 트레이드오프를 크게 향상시키며, 점점 더 착취적으로 변화하는 AI 환경에서 개인 데이터를 보호하기 위한 보다 견고하고 효과적인 솔루션을 제공함을 입증한다.