arXiv:2202.07835

SecGNN: Privacy-Preserving Graph Neural Network Training and Inference as a Cloud Service

Songlei Wang, Yifeng Zheng, Xiaohua Jia

제출 2022-02-16

원문 초록

Graphs are widely used to model the complex relationships among entities. As a powerful tool for graph analytics, graph neural networks (GNNs) have recently gained wide attention due to its end-to-end processing capabilities. With the proliferation of cloud computing, it is increasingly popular to deploy the services of complex and resource-intensive model training and inference in the cloud due to its prominent benefits. However, GNN training and inference services, if deployed in the cloud, will raise critical privacy concerns about the information-rich and proprietary graph data (and the resulting model). While there has been some work on secure neural network training and inference, they all focus on convolutional neural networks handling images and text rather than complex graph data with rich structural information. In this paper, we design, implement, and evaluate SecGNN, the first system supporting privacy-preserving GNN training and inference services in the cloud. SecGNN is built from a synergy of insights on lightweight cryptography and machine learning techniques. We deeply examine the procedure of GNN training and inference, and devise a series of corresponding secure customized protocols to support the holistic computation. Extensive experiments demonstrate that SecGNN achieves comparable plaintext training and inference accuracy, with promising performance.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2608.25727v2cs.LG공통 태그 Privacy Preserving, Graph Neural Network

LLM 강화 그래프 신경망의 프라이버시 위험 감사

Auditing Privacy Risks in LLM-Enhanced Graph Neural Networks

최근 대규모 언어 모델(LLM)은 노드(node) 표현에 의미론적 정보를 풍부하게 더함으로써 그래프 신경망(GNN)을 발전시켰고, 이를 통해 상당한 성능 향상을 달성하는 LLM 강화 GNN(LLM-enhanced GNN)이 등장했습니다. 그러나 이러한 의미론적 강화가 프라이버시 위험에 어떤 영향을 미치는지는 여전히 거의 탐구되지 않았습니다. 이러한 격차를 해소하기 위해, 본 연구는 (1) 데이터셋 준비, (2) 피해자 모델 학습(training), (3) 프라이버시 공격, (4) 위험 평가, (5) 방어 분석의 5단계로 구성된 통합 프레임워크를 통해 LLM 강화 GNN의 프라이버시 위험을 체계적으로 감사합니다. 구체적으로, 본 평가는 다양한 도메인에 걸친 10개의 텍스트 속성 그래프 데이터셋, 6가지 프라이버시 공격, 42가지 LLM 강화 GNN 구성, 그리고 3개의 최신 언어 모델 백본을 포괄합니다. 광범위한 실험 결과에 따르면, 유용성 향상에도 불구하고 LLM 강화 GNN은 평가된 공격 하에서 다양한 모델과 데이터셋 전반에 걸쳐 얕은 텍스트 표현 베이스라인보다 경험적으로 일관되게 더 큰 프라이버시 취약성을 나타냅니다. 추가 분석을 통해 LLM 강화 표현이 임베딩(embedding) 공간에서 링크, 레이블 및 멤버십 관련 신호를 더 뚜렷하게 구별할 수 있게 하여 추론(inference) 공격에 더 쉽게 악용될 수 있음을 보여줍니다. 마지막으로, 대표적인 방어 기법들을 평가하고 이러한 프라이버시 위험을 완화하는 효과를 검토합니다. 전반적으로 본 연구는 LLM 강화 GNN의 프라이버시 위험에 대한 체계적인 감사를 제공하며, 보다 안전하고 신뢰할 수 있는 그래프 학습 시스템을 개발하기 위한 통찰을 제시합니다.

arXiv:2609.05253v2cs.LG공통 태그 Privacy Preserving, Graph Neural Network

GLASS: 전이 가능한 그래프 수준 이상치 탐지를 위한 구면 점수화 기반 그래프-언어 정렬

GLASS: Graph-Language Alignment with Spherical Scoring for Transferable Graph-Level Anomaly Detection

본 논문에서는 단위 초구(unit hypersphere) 상의 그래프-언어 정렬을 통해 강력한 도메인 간 전이 가능성(cross-domain transferability)을 달성하는 그래프 수준 이상치 탐지(GLAD) 프레임워크인 GLASS를 소개합니다. GLASS는 다중 슬라이스 소프트 코사인 목적 함수(multi-slice soft cosine objective)를 통해 구조 인지 그래프 인코더와 지시 인지(instruction-aware) 텍스트 임베딩을 정렬하여 통합된 표현 공간을 구축합니다. 본 프레임워크는 국소적, 전역적, 의미론적 그래프 속성을 압축된 그래프 기술자 프롬프트(GraphDP)로 직렬화하여 도메인에 구애받지 않는 이상치 점수화를 가능하게 하는 텍스트 가교를 만듭니다. 마트료시카 표현 슬라이스(Matryoshka representation slices)를 통해 다중 스케일 일관성을 강제함으로써, 모델은 다양한 입도 수준에서 이상 편차를 포착합니다. 우리는 이상치 탐지를 정렬된 초구 상에서의 밀도 추정 문제로 정식화하고, 그래프 및 텍스트 임베딩 공간 모두에서 폰 미제스-피셔(von Mises-Fisher) 커널 밀도 추정기를 인스턴스화하는 구면 멀티모달 점수화(SMS)를 도입합니다. 이러한 확률론적 정식화는 고밀집 극한(high-concentration limit)에서 각도 기반 1-최근접 이웃 점수화를 복원하고, 실용적인 평균 k-최근접 이웃 점수 계산기에 이론적 동기를 부여하며, 구조적 및 의미론적 이상 신호의 원칙적인 융합을 제공합니다. 공유된 텍스트 임베딩 공간은 도메인 간 가교 역할도 수행합니다. 타깃 도메인 학습 데이터 없이도 타깃 도메인의 GraphDP를 인코딩하여 제로샷(zero-shot) 이상치 탐지를 수행하며, 소수의 정상 예시만으로 참조 세트 보정(reference-set calibration)을 통한 퓨샷(few-shot) 적응을 수행합니다. 프라이버시에 민감한 배포 환경을 위해, 우리는 프라이빗 타깃 참조와 무관하게 인코더를 고정한 상태로 유지하면서 그래프 레코드 차분 프라이버시(differential privacy)를 제공하는 유계 결합 그래프-텍스트 커널 요약으로 참조 세트 보정을 확장합니다. 12개의 벤치마크와 3개의 메타 도메인에 걸친 실험에서, GLASS는 최신 고급 GLAD 베이스라인들과 비교해 최고의 평균 AUROC 및 순위를 달성하며 효과적인 도메인 간 전이를 가능하게 합니다.

arXiv:2609.25155v1stat.ML공통 태그 Privacy Preserving, Graph Neural Network

엣지 프라이버시 그래프 생성기의 실증적 감사

Empirical Auditing of Edge-Private Graph Generators

본 연구에서는 공격을 통해 확인된 프라이버시 손실(privacy loss)에 대해 통계적으로 유효한 하한을 사용하여, 엣지 이웃(edge-neighbouring) 입력으로부터 생성된 출력이 구별 가능한 상태로 유지되는지 테스트함으로써 프라이버시 유출을 실증적으로 감사합니다. 본 프레임워크는 타깃 엣지를 둘러싼 기하학적 구조를 통해 직접 엣지(direct-edge), 국소 구조(local-structural), 그리고 GNN 기반 공격을 비교합니다. 두 개의 생성기와 두 개의 네트워크에 걸친 실험 결과, 프라이버시 유출은 메커니즘과 네트워크 모두에 의존적이며, 학습된 표현(learned representation)이 기존의 국소 통계로는 포착되지 않는 정보를 드러냄을 보여줍니다.

arXiv:2607.11084v1cs.AI공통 태그 Privacy Preserving, Graph Neural Network

NVAITC AI 과학자: 거버넌스 기반 엔드투엔드 연구 시스템 -- 고혈압 GWAS 사례 연구

NVAITC AI Scientist: A Governed End-to-End Research System -- A Hypertension GWAS Case Study

에이전트 기반 연구 시스템은 고립된 모델 추론, 코드 생성, 통계 분석을 넘어 과학적 워크플로우를 조율하는 새로운 패러다임으로 부상하고 있다. 그러나 기관 바이오메디컬 환경에 배포하려면 연구 계획, 데이터 접근, 워크플로우 오케스트레이션, 증거 추적, 재현성, 인간 감독을 위한 거버넌스 메커니즘이 요구된다. 본 논문에서는 보호 데이터를 기관 프라이버시 경계 내에 유지하면서 범도메인 과학적 워크플로우를 지원하도록 설계된 거버넌스 기반 엔드투엔드 에이전트 연구 시스템인 NVAITC AI Scientist(NAIS)를 제시한다. NAIS는 제안서 검토, 실행 계획, 거버넌스 기반 컴퓨팅 라우팅, 재현 가능한 워크플로우 오케스트레이션, 증거 생성, 과학자 참여 감독을 통합한다. 우리는 집계 전용 데이터 정책 하에 병원 연계 유전자형 및 전자건강기록(EHR) 데이터 286,422명을 활용한 실제 고혈압 전장유전체 연관 연구(GWAS)에서 NAIS를 검증한다. 에이전트는 코호트 추출을 계획하고, GWAS 실행을 오케스트레이션하며, 품질 관리 요약을 생성하고, 출판 지향 출력물을 초안 작성하였다. 인간-AI 검토를 통해 표현형 불일치가 식별되었고, 고혈압 정의의 반복적 개선이 이루어졌다. 조정 후 에이전트 오케스트레이션 GWAS는 FGF5, ATP2B1, CNNM2, FTO, GRB14를 포함한 기존 고혈압 유전자좌를 재현하였으며, FGF5에서 $-\log_{10}(p) \sim 70$의 가장 강한 신호가 확인되었다. 부차적 시연으로, NAIS는 약물 유발 간 손상 예측 워크플로우도 지원하여 멀티모달 그래프 신경망 AUC 0.842를 달성하였다. 이러한 결과는 거버넌스 기반 에이전트 연구 시스템이 전문가 주도 워크플로우에 필적하는 출력물을 생성하면서 확장 가능한 AI 보조 바이오메디컬 발견을 지원할 수 있음을 보여준다.

arXiv:2607.09767v2eess.SP공통 태그 Privacy Preserving

특징에 귀 기울여라: 신호 재구성 대신 콘텐츠 임베딩 매칭으로 구동되는 음성 익명화

Listen to the Features: Voice Anonymization Driven by Content Embedding Matching over Signal Reconstruction

이 논문은 사실적인 음성을 생성하는 것보다 콘텐츠를 보존하는 데 초점을 맞춘 음성 익명화 모델을 제안한다. 이 모델은 동결된 사전학습 wav2vec2 인코더에서 추출한 콘텐츠 임베딩에 의존한다. 해당 임베딩은 벡터 양자화와 HiFi-GAN 보코더를 사용하여 익명화된 신호로 디코딩되며, 두 모듈 모두 파형 재구성 손실이나 화자 임베딩 매핑 없이 LibriTTS로 학습된다. 학습 목적함수는 익명화된 신호의 임베딩이 원본의 임베딩과 일치하도록 강제한다. 학습 중에는 화자별 정보를 제거하기 위해 그래디언트 역전 층이 포함된 보조 화자 분류 브랜치가 사용된다. 실험 결과, 이 간단한 임베딩 기반 접근법은 매우 낮은 WER(2.53)을 달성하며, 익명화 성능(EER 13.39)은 VPC에서 1등급 수준에 해당한다. 특히, 별도의 학습 목적함수 없이도 감정이 부분적으로 보존되고(UAR 43.91), 익명화된 음성은 재구성 손실 없이도 청취 가능하다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.