arXiv:2211.13542

A Privacy-Preserving Outsourced Data Model in Cloud Environment

Rishabh Gupta, Ashutosh Kumar Singh

제출 2022-11-24

원문 초록

Nowadays, more and more machine learning applications, such as medical diagnosis, online fraud detection, email spam filtering, etc., services are provided by cloud computing. The cloud service provider collects the data from the various owners to train or classify the machine learning system in the cloud environment. However, multiple data owners may not entirely rely on the cloud platform that a third party engages. Therefore, data security and privacy problems are among the critical hindrances to using machine learning tools, particularly with multiple data owners. In addition, unauthorized entities can detect the statistical input data and infer the machine learning model parameters. Therefore, a privacy-preserving model is proposed, which protects the privacy of the data without compromising machine learning efficiency. In order to protect the data of data owners, the epsilon-differential privacy is used, and fog nodes are used to address the problem of the lower bandwidth and latency in this proposed scheme. The noise is produced by the epsilon-differential mechanism, which is then added to the data. Moreover, the noise is injected at the data owner site to protect the owners data. Fog nodes collect the noise-added data from the data owners, then shift it to the cloud platform for storage, computation, and performing the classification tasks purposes.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.09712v1cs.LG공통 태그 Privacy Preserving, Fraud Detection

ERP 데이터 프로비저닝 재무 통제 테스팅

ERP Data Provisioning Financial Control Testing

재무 통제 테스팅은 품질 환경에서 대표적인 전사적 자원 관리(ERP) 데이터에 대한 의존도가 점점 높아지고 있으나, 운영 환경의 직접 복사본은 개인정보, 공급업체, 금융 및 상업적으로 민감한 기록을 노출시킨다. 본 연구는 결정론적 마스킹, 합성 시나리오 확장, 참조적 토큰화(tokenization), 정책 기반 릴리스 승인, 그리고 조정(reconciliation), 사기 규칙 테스팅, 감사 분석을 위한 자동화된 검증을 결합한 거버넌스 기반 데이터 프로비저닝 프레임워크인 재무 통제 테스팅을 위한 안전한 ERP 품질 프로비저닝(SEQ-FCT)을 제시한다. 평가에는 단일 합성 데이터셋이 사용된다. 이 데이터셋은 2022년부터 2025년까지 6개 자회사의 186,000개 재무 프로세스 레코드를 포함하며, 매입채무 청구서, 지급금, 총계정원장 분개, 매출채권 영수증, 은행 명세서 항목으로 구성된다. 데이터셋에는 개체 관계, 금액 값, 승인 경로, 세금 속성, 금융 마커, 예외 레이블, 사기 규칙 트리거, 통제 실패 결과가 포함된다. 데이터셋이 합성 데이터이므로, 보고된 결과는 운영 환경 검증이 아닌 통제된 내부 일관성을 보여준다. 운영 환경 복제 상한선, 정적 마스킹, 규칙 전용 합성, 조건부 테이블 형식 생성적 합성, 하이브리드 기준선과의 비교에서 SEQ-FCT는 0.932의 조정 F1, 0.887의 사기 트리거 재현율(recall), 0.914의 통제 실패 F1, 그리고 추정 유출 위험 점수 0.018을 달성하였다. 분석 결과, 마스킹, 합성 데이터, 거버넌스 검사를 독립적인 유틸리티가 아닌 단일 릴리스 파이프라인으로 평가할 때 재무 프로세스 행동이 더 안정적으로 보존될 수 있음을 시사한다.

arXiv:2606.28048v1cs.SD공통 태그 Privacy Preserving, Fraud Detection

DG^VoiC: 실제 콜센터 환경에서 사기 조사를 위한 화자 클러스터링

DG^VoiC: Speaker Clustering for Fraud Investigation under Real Call-Centre Conditions

보험 사기는 여전히 비용이 크고 운영상 어려우며, 특히 많은 고객 상호작용이 FNOL(최초 사고 신고)에서 시작되는 콜센터 워크플로에서 그렇다. 최근 사기 탐지 방법은 주로 구조화된 데이터, 텍스트, 또는 이미지에 의존하지만, 통화 간 반복되는 화자 정체성은 조사 신호로 충분히 활용되지 않고 있다. 본 논문은 익명화된 실제 콜센터 오디오에서 고객 검증 및 프로필 간 화자 연결을 위한 음성 클러스터링 프레임워크인 DG^VoiC를 제시한다. 이 접근법은 민감 정보 정렬 익명화, 음성 중심 전처리, 슬라이딩 윈도우 화자 임베딩 추출, 코사인 유사도 기반 클러스터링을 결합하여 실제 전화 통신 환경에서 반복 화자를 식별한다. 이 방법은 121개 녹음에 대해 평가되었으며, 22개의 사람이 합의한 화자 클러스터에 속한 56개 샘플로 구성된 큐레이션된 참조 부분집합을 검증에 사용했다. 최적 구성은 AMI 96%, ARI 95%, completeness 98%, homogeneity 100%, V-measure 99%를 달성했다. 이러한 결과는 화자 클러스터링이 분석가가 화자 일관성을 검증하고 고객 간 반복되는 음성을 드러내는 데 도움을 줌으로써 사기 조사를 위한 강력한 추가 신호를 제공할 수 있음을 보여준다.

arXiv:2607.05479v2cs.CR공통 태그 Privacy Preserving

생성형 AI 워크플로우에서의 특권과 기밀성

Privilege and confidentiality in generative AI workflows

생성형 AI(GenAI) 시스템은 클라이언트 데이터를 세 가지 방식으로 저장하고 처리한다: 학습과 기억화를 통해 모델의 파라미터에, 실시간 세션 중 컨텍스트 윈도우에, 그리고 검색-증강 생성(RAG)을 위한 지식 데이터베이스에. 각 방식은 기밀성과 법적 직업상 특권에 대해 서로 다르고 종종 반직관적인 위험을 초래하며, 각각 특정한 거버넌스 대응을 요구한다. 특권과 생성형 AI를 다룬 최초의 영국 및 미국 판결인 UK and Munir v Secretary of State for the Home Department와 United States v Heppner, 이 판결들이 해석되어야 할 기존의 특권 판례들, 그리고 최근의 컴퓨터 과학 연구를 바탕으로, 우리는 실무자들이 이해할 수 있는 방식으로 데이터 저장 및 처리의 세 가지 방식을 설명하고 각각의 법적 결과를 분석한다. 이어서 우리는 이 분석을 잉글랜드 및 웨일스의 사무변호사를 규율하는 규제 체계와 통상적인 직업상 과실의 일반 원칙 내에 위치시키며, 효과적인 정보 거버넌스의 기준(그리고 그에 따라 과실 및 위법 행위를 판단하는 벤치마크)이 변화하고 있다고 주장한다. 우리는 주로 SRA 규제를 받는 실무자들을 대상으로 서술하지만, 데이터 거버넌스 분석은 특권 또는 직업상 비밀의 보호가 증명 가능한 기밀성에 달려 있는 모든 법적 관할권으로 확장될 수 있도록 구성하였다. 이 논문의 궁극적인 목적은 법률 서비스 전문가들이 GenAI 시스템에서의 주요 데이터 유출 위험을 이해하도록 돕고, 이를 통해 클라이언트 데이터 및 기타 민감한 자료에 대한 GenAI의 보다 책임 있는 배포를 촉진하는 것이다.

arXiv:2607.09767v2eess.SP공통 태그 Privacy Preserving

특징에 귀 기울여라: 신호 재구성 대신 콘텐츠 임베딩 매칭으로 구동되는 음성 익명화

Listen to the Features: Voice Anonymization Driven by Content Embedding Matching over Signal Reconstruction

이 논문은 사실적인 음성을 생성하는 것보다 콘텐츠를 보존하는 데 초점을 맞춘 음성 익명화 모델을 제안한다. 이 모델은 동결된 사전학습 wav2vec2 인코더에서 추출한 콘텐츠 임베딩에 의존한다. 해당 임베딩은 벡터 양자화와 HiFi-GAN 보코더를 사용하여 익명화된 신호로 디코딩되며, 두 모듈 모두 파형 재구성 손실이나 화자 임베딩 매핑 없이 LibriTTS로 학습된다. 학습 목적함수는 익명화된 신호의 임베딩이 원본의 임베딩과 일치하도록 강제한다. 학습 중에는 화자별 정보를 제거하기 위해 그래디언트 역전 층이 포함된 보조 화자 분류 브랜치가 사용된다. 실험 결과, 이 간단한 임베딩 기반 접근법은 매우 낮은 WER(2.53)을 달성하며, 익명화 성능(EER 13.39)은 VPC에서 1등급 수준에 해당한다. 특히, 별도의 학습 목적함수 없이도 감정이 부분적으로 보존되고(UAR 43.91), 익명화된 음성은 재구성 손실 없이도 청취 가능하다.

arXiv:2610.02418v2cs.CR공통 태그 Privacy Preserving

Whiteout을 활용한 대규모 언어 모델(LLM)의 개인정보 유출 완화

Mitigating Private Data Leakage in LLMs with Whiteout

최신 대규모 언어 모델(LLM)은 거의 모든 접근 가능한 웹사이트에서 스크래핑한 콘텐츠와 사용자 입력을 포함하여 대부분 필터링되지 않은 방대한 데이터셋으로 학습(training)됩니다. 그 결과 LLM은 생년월일, 전화번호, 집 주소와 같은 민감한 개인정보(PSI)를 암기하고 그대로 재생성하는 경우가 많습니다. 이는 특히 경영진, 정치인, 판사와 같은 저명인사들에게 심각한 개인정보 침해 위험을 초래합니다. 기존의 완화 방법은 주로 머신 언러닝(machine unlearning)에 의존합니다. 그러나 이러한 방식은 종종 필요한 것보다 더 많은 정보를 제거하고, 모델의 유용성과 안전성(safety)을 저하시키며, 공격에 매우 취약합니다. 본 논문에서는 개인의 요청에 따라 정밀하고 세심하게 설계된 난독화 샘플로 덮어씀으로써 LLM이 실제 민감한 개인정보(PSI)를 그대로 토해내는 것을 방지하는 실용적인 도구인 Whiteout을 제시합니다. 널리 사용되는 OpenAI 모델을 포함하여 다양한 크기와 제조사의 최신 LLM에서 Whiteout을 평가(evaluation)합니다. 실험 결과, Whiteout은 대상 민감한 개인정보의 유출을 효과적으로 방지하고, 모델 유용성과 안전성에 미치는 영향이 미미하며, 기존 대안들보다 우수한 성능을 보였습니다. 또한 탈옥(jailbreaking)과 같은 블랙박스 공격부터 재학습(relearning) 및 양자화(quantization)와 같은 화이트박스 적응형 공격에 이르기까지 광범위한 대응 공격에 대해 Whiteout을 검증합니다. 마지막으로 Whiteout의 보안 및 윤리적 의미에 대한 논의로 결론을 맺습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.