PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.12354v2cs.LG

정보 의존성 감소는 학습 데이터 프라이버시를 유발하지 않는다. 적대적으로 비견고(non-robust)한 특징이 그렇다

Reducing information dependency does not cause training data privacy. Adversarially non-robust features do

본 논문에서는 정보 의존성(information dependency, 암기(rote memorization)를 포함)이 이미지 재구성(reconstruction) 공격에 대한 학습 데이터 노출을 유발한다는 기존 견해에 도전한다. 광범위한 노출은 암기 없이도 지속될 수 있으며, 대신 적대적 견고성(adversarial robustness)과의 조절 가능한 연결에 의해 발생함을 보인다. 먼저 세 가지 놀라운 결과를 제시한다: (1) 이상화된 공격자 하에서 유출(leakage)을 평가하는 모델 역전 공격(MIA)에 의한 재구성을 억제하는 최근 방어 기법들은 정보 의존성의 표준 측정치(HSIC)를 감소시키지 않는다; (2) 학습 데이터셋을 최대한 암기하는 모델은 MIA 재구성에 견고(robust)하게 유지되며; (3) 표준 가정 하에서 최근 정보 이론적(information-theoretic) 경계가 임의로 강한 프라이버시 보장을 제공하는, 학습 픽셀의 97%를 보지 않고 학습된 모델도 여전히 MIA에 의해 치명적으로 재구성될 수 있다. 이러한 발견을 설명하기 위해, MIA 하의 프라이버시가 적대적 예제(adversarial examples) 문헌에서 ``비견고(non-robust)'' 특징(일반화 가능하지만 감지할 수 없고 불안정한 특징)이라고 부르는 것에서 비롯된다는 인과적 증거를 제공한다. 또한 최근 MIA 방어 기법들이 의도치 않게 모델을 이러한 특징 방향으로 이동시킴으로써 프라이버시 개선을 달성함을 보인다. 이 인과 관계를 확립하기 위해, 비견고한 특징을 의도적으로 학습하여 최첨단 방어 기법보다 우수한 재구성 방어와 더 높은 정확도를 모두 달성하는 학습(training) 체계인 Anti Adversarial Training(AT-AT)을 도입한다. 우리의 결과는 학습 데이터 노출에 대한 기존 이해를 수정하고 새로운 프라이버시-견고성 트레이드오프(tradeoff)를 드러낸다.

arXiv:2606.29748v1cs.AI

Rethinking Generative Reconstruction Attacks against Graph Neural Network Models

The application of graph data in numerous disciplines raises the need for gathering and analyzing huge volumes of data, some of which is private and sensitive. The non-Euclidean nature of the graph data makes the analysis computationally challenging, leading to the use of Graph Neural Networks (GNNs) in the age of AI. GNNs may inadvertently leak sensitive data they are trained on, which raises serious data security issues, including the model inversion attack. In this study, we analyze GNNs' vulnerabilities by introducing two novel graph inversion (i.e., reconstruction) attacks: graph-label conditioned (GLC) attack and embedding-label conditioned (ELC) attack, utilizing targetmodel predictions and their intermediate representations, respectively. We perform a comprehensive analysis of our introduced privacy attacks and compare them with existing baselines across three benchmark graph datasets (i.e., NCI1, PROTEINS, and AIDS) and four graph distributional/structural metrics (i.e., FGD, EGD, MMD, and GKS). Our work demonstrates that an adversary can use the generator-discriminator technique to reconstruct high-quality graphs in real-world black-box attack scenarios against GNNs. Additionally, we present a variant of our attacks (Ours--) with 50% reduced queries, achieving good or comparable reconstruction attack performance. In addition, we show that GNNs are highly vulnerable to privacy attacks, varying Laplacian noise-scales.