그래디언트 역전 공격(gradient inversion attack)은 연합 학습(Federated Learning)에서 심각한 프라이버시 위협으로 자주 제시되며, 최근 연구들은 유리한 실험 조건 하에서 점점 더 강력한 복원 결과를 보고하고 있습니다. 그러나 실제로 배포되는 현대적인 성능 최적화 시스템에서도 이러한 공격이 실현 가능한지는 여전히 불분명합니다. 본 연구에서는 이미지 기반 연합 학습을 대상으로 그래디언트 역전의 실질적 실현 가능성을 평가합니다. 우리는 최신 해상도와 표준 비전 아키텍처를 사용하여 이미지 분류(image classification) 및 객체 검출(object detection)을 포함한 여러 데이터셋과 작업에 걸쳐 체계적인 연구를 수행합니다. 연구 결과, 매우 제한적인 가정 하에서는 특정 레거시 또는 과도기적 구조에 대해 그래디언트 역전이 여전히 가능하지만, 현대적인 성능 최적화 모델은 시각적으로 유의미한 복원에 일관되게 저항하는 것으로 나타났습니다. 또한 보고된 성공 사례 중 상당수가 실제 학습(training) 파이프라인을 반영하지 않는 추론(inference) 모드 동작이나 아키텍처 단순화와 같은 상한(upper-bound) 설정에 의존한다는 점을 입증합니다. 종합하면, 우리의 연구 결과는 정직하지만 호기심 많은(honest-but-curious) 서버 가정 하에서 그래디언트 역전을 통한 고충실도 이미지 복원이 프로덕션 최적화 연합 학습 시스템에서 치명적인 프라이버시 위험을 초래하지 않으며, 실질적인 위험 평가는 진단 목적의 공격 설정과 실제 배포 환경을 신중하게 구분해야 함을 시사합니다.
연합 학습(Federated Learning, FL)은 원시 데이터를 공유하지 않고도 임상 텍스트에 대한 다기관 학습을 가능하게 하지만, 그래디언트 역전(gradient inversion)은 공유된 모델 업데이트로부터 민감한 정보를 재구성할 수 있다. 방사선학 리포트에서 이러한 유출의 정도와 토크나이저 설계의 역할은 아직 불분명하다. 우리는 FL에서 그래디언트 기반 텍스트 재구성을 정량화하고, 모델 아키텍처를 고정한 채 세 가지 토크나이저에 걸친 프라이버시 위험을 비교한다. 6개의 FL 클라이언트가 공개 방사선학 코퍼스(진단 리포트 368,751건, 퇴원 요약 98,206건, MIMIC-CXR 자유 텍스트 리포트 1,500건)에 대해 GPT-2, RadBERT, LLaMA-2 토크나이저를 사용하여 배치 크기 64, 128, 256으로 GPT-2 스타일 트랜스포머(시퀀스 길이 32)를 학습시켰다. 배포 전 공유 아키텍처를 수정하는 능동적 악의적 서버를 가정하여, 해석적 그래디언트 역전을 적용하고 5회 실행에 걸쳐 재구성 충실도를 측정했다. 정확한 문장 재구성률은 토크나이저에 따라 31%에서 44%까지였으며(27개 토크나이저×데이터셋×배치 크기 조합에서 30.6–43.5%), Discharge 데이터셋에서 배치 크기 64일 때 정확도는 42.1%(GPT-2), 42.3%(RadBERT), 39.4%(LLaMA-2)였고, 배치 크기 256에서는 37.3%, 37.2%, 34.3%로 감소했다. S-BLEU는 배치 크기가 커질수록 감소했다(GPT-2: 0.44에서 0.33; RadBERT: 0.48에서 0.35). RadBERT가 가장 높은 재구성 충실도를 보였고 가장 많은 임상 용어를 복원했다(1,440개 용어 기준 어휘의 18.1%, GPT-2 12.5%, LLaMA-2 9.4% 대비), 그러나 어떤 토크나이저도 유출을 막지 못했다. 따라서 더 큰 배치 크기와 도메인 특화 토크나이저를 사용하더라도 FL 그래디언트로부터 리포트 텍스트의 상당 부분을 복원할 수 있다. 토크나이저 설계는 유출 심각도에 영향을 미치며, 유틸리티뿐 아니라 프라이버시와 관련된 결정이다. 방사선학 NLP에서 FL에 대한 HIPAA 및 GDPR 요구사항을 충족하려면 보안 집계(secure aggregation)와 차등 프라이버시(differential privacy)와 같은 안전장치가 필요할 가능성이 높다.
연합 학습(Federated Learning)은 원본 입력을 로컬에 보관한 상태로 중앙 서버에 그래디언트 업데이트를 전송하여 여러 클라이언트가 공유 모델을 공동으로 학습할 수 있게 합니다. 그러나 이전의 그래디언트 역공격(gradient inversion attacks)은 이러한 업데이트가 클라이언트 입력을 재구성하기에 충분한 정보를 노출할 수 있음을 보여주었습니다. 트랜스포머(transformer)에 대한 기존 공격들은 실제 클라이언트 업데이트와 일치하도록 더미 입력을 최적화하는데, 이는 현대 모델에서 비용이 많이 들고 불안정하거나, 어텐션(attention) 그래디언트의 낮은 랭크를 활용하여 실제 층 임베딩을 포함하는 부분 공간을 식별한 후 후보 토큰에 대한 이산 멤버십 테스트를 수행합니다. 그러나 이 토큰 테스트는 양자화(quantization)나 차등 프라이버시(Differential Privacy, DP)와 같은 수치적 잡음 하에서 취약하며, 비인과적 어텐션(non-causal attention)을 가진 인코더 모델에서는 확장성이 떨어집니다. 우리는 이 부분 공간 신호를 미분 가능한 목적 함수로 변환하는 연속형 그래디언트 역공격인 TIGER를 소개합니다. 토큰을 검색하거나 전체 그래디언트를 매칭하는 대신, TIGER는 토큰 임베딩을 직접 최적화하여 부분 공간까지의 거리를 최소화합니다. 우리의 실험에 따르면 인코더 전용 모델에서 TIGER는 기존 공격 대비 재구성 품질과 실행 시간 모두에서 상당한 개선을 보였으며, 디코더 모델에서는 이전의 부분 공간 기반 공격보다 더 강건하여 DP로 방어된 연합 학습 설정에서 최초로 성공적인 재구성을 가능하게 했습니다.