arXiv:2412.05164

A Differentially Private Kaplan-Meier Estimator for Privacy-Preserving Survival Analysis

Narasimha Raghavan Veeraragavan, Sai Praneeth Karimireddy, Jan Franz Nygård

제출 2024-12-06

원문 초록

This paper presents a differentially private approach to Kaplan-Meier estimation that achieves accurate survival probability estimates while safeguarding individual privacy. The Kaplan-Meier estimator is widely used in survival analysis to estimate survival functions over time, yet applying it to sensitive datasets, such as clinical records, risks revealing private information. To address this, we introduce a novel algorithm that applies time-indexed Laplace noise, dynamic clipping, and smoothing to produce a privacy-preserving survival curve while maintaining the cumulative structure of the Kaplan-Meier estimator. By scaling noise over time, the algorithm accounts for decreasing sensitivity as fewer individuals remain at risk, while dynamic clipping and smoothing prevent extreme values and reduce fluctuations, preserving the natural shape of the survival curve. Our results, evaluated on the NCCTG lung cancer dataset, show that the proposed method effectively lowers root mean squared error (RMSE) and enhances accuracy across privacy budgets ($\epsilon$). At $\epsilon = 10$, the algorithm achieves an RMSE as low as 0.04, closely approximating non-private estimates. Additionally, membership inference attacks reveal that higher $\epsilon$ values (e.g., $\epsilon \geq 6$) significantly reduce influential points, particularly at higher thresholds, lowering susceptibility to inference attacks. These findings confirm that our approach balances privacy and utility, advancing privacy-preserving survival analysis.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.08595v1cs.LG공통 태그 Survival Analysis, Privacy Preserving

프라이버시 보존 심혈관 질환 위험 예측을 위한 연합 심층 학습

Federated Deep Learning for Privacy-Preserving Cardiovascular Disease Risk Prediction

심혈관 질환 위험 예측 모델은 흔히 단일 기관 데이터 또는 중앙 집중식으로 통합된 데이터셋에 의존한다. 이러한 모델을 여러 기관에 걸쳐 확장하는 것은 프라이버시 규정과 환자 수준 데이터 공유 제약으로 인해 제한될 수 있다. 연합 학습(federated learning)은 민감한 환자 데이터를 전송하지 않고도 협력적 모델 개발을 가능하게 하지만, 데이터셋이 크기·인구 특성·결과 정의 면에서 서로 다른 경우가 많아 의료 분야에서의 적용은 여전히 어렵다. 본 연구에서는 서로 다른 특성을 가진 두 개의 인구 기반 코호트를 통합하는 프라이버시 보존 심혈관 질환 위험 예측을 위한 연합 심층 학습 접근법을 제시한다. 두 코호트는 자기 보고 결과를 포함하는 연구 포함 기준을 충족하는 148,230명의 참가자로 구성된 Lifelines와 디지털 연계 임상 결과를 보유한 소규모 코호트(10,155명)인 Rotterdam Study이다. 모델 성능은 완전한 추적 관찰 데이터를 보유한 Rotterdam Study를 기준으로 주로 평가되었다. 연합 학습으로 훈련된 딥 생존 모델(deep survival model)은 연합 없이 로컬에서 훈련된 모델보다 높은 예측 성능을 달성하였다. Rotterdam Study에서 C-통계량은 0.728(95% CI: 0.717–0.739)에서 0.739(95% CI: 0.728–0.749)로 향상되었다. Lifelines에서는 C-통계량이 0.783(95% CI: 0.775–0.791)에서 0.787(95% CI: 0.780–0.792)로 향상되었다. 이러한 결과는 이질적인 코호트 간 연합 심층 학습이 개인 수준 환자 데이터의 프라이버시를 보존하면서 심혈관 질환 위험 예측을 개선할 수 있음을 시사한다.

arXiv:2607.05479v2cs.CR공통 태그 Privacy Preserving

생성형 AI 워크플로우에서의 특권과 기밀성

Privilege and confidentiality in generative AI workflows

생성형 AI(GenAI) 시스템은 클라이언트 데이터를 세 가지 방식으로 저장하고 처리한다: 학습과 기억화를 통해 모델의 파라미터에, 실시간 세션 중 컨텍스트 윈도우에, 그리고 검색-증강 생성(RAG)을 위한 지식 데이터베이스에. 각 방식은 기밀성과 법적 직업상 특권에 대해 서로 다르고 종종 반직관적인 위험을 초래하며, 각각 특정한 거버넌스 대응을 요구한다. 특권과 생성형 AI를 다룬 최초의 영국 및 미국 판결인 UK and Munir v Secretary of State for the Home Department와 United States v Heppner, 이 판결들이 해석되어야 할 기존의 특권 판례들, 그리고 최근의 컴퓨터 과학 연구를 바탕으로, 우리는 실무자들이 이해할 수 있는 방식으로 데이터 저장 및 처리의 세 가지 방식을 설명하고 각각의 법적 결과를 분석한다. 이어서 우리는 이 분석을 잉글랜드 및 웨일스의 사무변호사를 규율하는 규제 체계와 통상적인 직업상 과실의 일반 원칙 내에 위치시키며, 효과적인 정보 거버넌스의 기준(그리고 그에 따라 과실 및 위법 행위를 판단하는 벤치마크)이 변화하고 있다고 주장한다. 우리는 주로 SRA 규제를 받는 실무자들을 대상으로 서술하지만, 데이터 거버넌스 분석은 특권 또는 직업상 비밀의 보호가 증명 가능한 기밀성에 달려 있는 모든 법적 관할권으로 확장될 수 있도록 구성하였다. 이 논문의 궁극적인 목적은 법률 서비스 전문가들이 GenAI 시스템에서의 주요 데이터 유출 위험을 이해하도록 돕고, 이를 통해 클라이언트 데이터 및 기타 민감한 자료에 대한 GenAI의 보다 책임 있는 배포를 촉진하는 것이다.

arXiv:2607.09767v2eess.SP공통 태그 Privacy Preserving

특징에 귀 기울여라: 신호 재구성 대신 콘텐츠 임베딩 매칭으로 구동되는 음성 익명화

Listen to the Features: Voice Anonymization Driven by Content Embedding Matching over Signal Reconstruction

이 논문은 사실적인 음성을 생성하는 것보다 콘텐츠를 보존하는 데 초점을 맞춘 음성 익명화 모델을 제안한다. 이 모델은 동결된 사전학습 wav2vec2 인코더에서 추출한 콘텐츠 임베딩에 의존한다. 해당 임베딩은 벡터 양자화와 HiFi-GAN 보코더를 사용하여 익명화된 신호로 디코딩되며, 두 모듈 모두 파형 재구성 손실이나 화자 임베딩 매핑 없이 LibriTTS로 학습된다. 학습 목적함수는 익명화된 신호의 임베딩이 원본의 임베딩과 일치하도록 강제한다. 학습 중에는 화자별 정보를 제거하기 위해 그래디언트 역전 층이 포함된 보조 화자 분류 브랜치가 사용된다. 실험 결과, 이 간단한 임베딩 기반 접근법은 매우 낮은 WER(2.53)을 달성하며, 익명화 성능(EER 13.39)은 VPC에서 1등급 수준에 해당한다. 특히, 별도의 학습 목적함수 없이도 감정이 부분적으로 보존되고(UAR 43.91), 익명화된 음성은 재구성 손실 없이도 청취 가능하다.

arXiv:2610.02418v2cs.CR공통 태그 Privacy Preserving

Whiteout을 활용한 대규모 언어 모델(LLM)의 개인정보 유출 완화

Mitigating Private Data Leakage in LLMs with Whiteout

최신 대규모 언어 모델(LLM)은 거의 모든 접근 가능한 웹사이트에서 스크래핑한 콘텐츠와 사용자 입력을 포함하여 대부분 필터링되지 않은 방대한 데이터셋으로 학습(training)됩니다. 그 결과 LLM은 생년월일, 전화번호, 집 주소와 같은 민감한 개인정보(PSI)를 암기하고 그대로 재생성하는 경우가 많습니다. 이는 특히 경영진, 정치인, 판사와 같은 저명인사들에게 심각한 개인정보 침해 위험을 초래합니다. 기존의 완화 방법은 주로 머신 언러닝(machine unlearning)에 의존합니다. 그러나 이러한 방식은 종종 필요한 것보다 더 많은 정보를 제거하고, 모델의 유용성과 안전성(safety)을 저하시키며, 공격에 매우 취약합니다. 본 논문에서는 개인의 요청에 따라 정밀하고 세심하게 설계된 난독화 샘플로 덮어씀으로써 LLM이 실제 민감한 개인정보(PSI)를 그대로 토해내는 것을 방지하는 실용적인 도구인 Whiteout을 제시합니다. 널리 사용되는 OpenAI 모델을 포함하여 다양한 크기와 제조사의 최신 LLM에서 Whiteout을 평가(evaluation)합니다. 실험 결과, Whiteout은 대상 민감한 개인정보의 유출을 효과적으로 방지하고, 모델 유용성과 안전성에 미치는 영향이 미미하며, 기존 대안들보다 우수한 성능을 보였습니다. 또한 탈옥(jailbreaking)과 같은 블랙박스 공격부터 재학습(relearning) 및 양자화(quantization)와 같은 화이트박스 적응형 공격에 이르기까지 광범위한 대응 공격에 대해 Whiteout을 검증합니다. 마지막으로 Whiteout의 보안 및 윤리적 의미에 대한 논의로 결론을 맺습니다.

arXiv:2606.26718v2cs.AI공통 태그 Survival Analysis

시네 MRI로부터 심실 양측 전체 주기 심장 운동을 모델링하는 잠재 ODE 접근법

A latent ODE approach to full-cycle biventricular cardiac motion modeling from cine MRI

심장 자기공명영상(CMR)은 심실의 구조와 움직임에 대한 풍부한 시공간 정보를 포착하지만, 기존 위험 모델은 선택된 심장 주기상에서 도출된 소수의 영상 기반 지표만 사용한다. 우리는 양심실 해부학과 전 주기 cine 움직임을 연속적인 잠재 궤적으로 인코딩하는 잠재 역학 모델을 제시하며, 심박수 인식 신경 보통미분방정식(ODE) 역학과 그래프 기반 메시 오토인코더를 사용해 해부학적으로 일관된 3D+t 심실 움직임을 재구성한다. 공변량 조건부 사전분포가 예상되는 이완기 말기 잠재 상태를 정의하고, Cox 비례 위험 모델이 이 사전분포로부터의 편차가 발생 심부전을 예측하는지 검증한다. 기준선 심혈관 질환이 없는 UK Biobank 참가자 72,386명(발생 심부전 사건 367건 포함)을 분석했다. 홀드아웃 평가 부분집합에서 잠재 점수를 재적합된 pooled cohort equations에 추가하면 stratified C-index가 0.704에서 0.785로 향상되었으며, 7개의 기존 심장 마커에서는 0.764였다. 그래프 기반이 아니거나 ODE 기반이 아닌 접근법과 비교했을 때, 제안 모델은 재구성 충실도, 생성적 현실성, 하류 예후 예측 성능 사이에서 최상의 균형을 보였다. 이러한 결과는 심실 움직임의 연속적인 전 주기 모델링이 기존 CMR 요약 지표를 넘어 정보적인 심장 표현형을 제공함을 시사하나, 임상적 위험 예측에 활용하기 전에는 보다 대표적인 환자 코hort에 대한 외부 검증이 필요하다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.