arXiv:2610.10909v1 cs.CR

임베디드 머신러닝에 대한 전력 부채널 멤버십 추론 공격

Power Side-Channel Membership Inference Attack on Embedded Machine Learning

Sahan Sanjaya, Prabhat Mishra

제출 2026-10-07

한국어 초록

멤버십 추론 공격(MIA)은 특정 샘플이 타깃 모델의 학습(training)에 사용되었는지를 판별함으로써 머신러닝(ML) 학습 데이터의 프라이버시를 위협합니다. 기존의 MIA는 예측 확률부터 예측 라벨에 이르는 모델 출력에 의존하지만, 이러한 가정은 출력이 제한적이거나 접근할 수 없는 온디바이스 ML 시스템에서는 제약이 될 수 있습니다. 그러나 모델 출력을 차단하더라도 이를 생성하는 데이터 의존적 연산 자체가 제거되는 것은 아니며, 물리적 부채널을 통해 관측 가능한 상태로 남아있을 수 있습니다. 본 논문에서는 예측 확률이나 심지어 예측 라벨조차 요구하지 않고 전력 파형(power trace)으로부터 직접 멤버십을 추론할 수 있는 임베디드 ML 모델 대상 전력 부채널 멤버십 추론 공격인 PSCMIA를 제시합니다. 다양한 데이터셋(MNIST, FMNIST, CIFAR10, CINIC10), 완전 연결(FC) 및 합성곱 신경망(CNN) 아키텍처, 그리고 두 가지 임베디드 플랫폼(STM32F3, XMEGA)에 걸쳐 PSCMIA를 평가합니다. PSCMIA는 FC 모델에서 최대 0.907의 ROC-AUC 값을 달성합니다. CNN 모델의 경우, PSCMIA와 확률 벡터 기반 섀도우 MIA 간의 ROC-AUC 격차는 0.006에서 0.116 수준입니다. FC 및 CNN 전반의 평가에서 PSCMIA는 16개 모델-데이터셋-하드웨어 구성 중 11개에서 라벨 전용 MIA보다 우수한 성능을 보이며, 기존 모델 출력을 사용할 수 없는 환경에서도 의도치 않은 전력 부채널 누설을 통한 물리적 실행이 멤버십 정보를 노출할 수 있음을 입증합니다.

원문 초록

Membership inference attacks (MIAs) threaten the privacy of machine learning (ML) training data by determining whether a sample was used to train a target model. Existing MIAs rely on model outputs, ranging from prediction probabilities to predicted labels, an assumption that can be restrictive for on-device ML systems with limited or inaccessible outputs. However, suppressing model outputs does not eliminate the data-dependent computations that produce them, which may remain observable through physical side channels. We present PSCMIA, a power side-channel membership inference attack against embedded ML models that can infer membership directly from power traces without requiring prediction probabilities or even the predicted labels. We evaluate PSCMIA across multiple datasets (MNIST, FMNIST, CIFAR10, CINIC10), fully connected (FC) and convolutional neural network (CNN) architectures, and two embedded platforms (STM32F3, XMEGA). PSCMIA achieves ROC-AUC values of up to 0.907 on FC models. For CNN models, the ROC-AUC gap between PSCMIA and probability vector-based shadow MIA ranges from 0.006 to 0.116. Across the FC and CNN evaluations, PSCMIA outperforms label-only MIA in 11 of 16 model-dataset-hardware configurations, demonstrating that physical execution can expose membership information even when conventional model outputs are unavailable through unintended power side-channel leakage.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.10909v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2608.25727v2cs.LG공통 태그 Privacy Preserving, Membership Inference Attack

LLM 강화 그래프 신경망의 프라이버시 위험 감사

Auditing Privacy Risks in LLM-Enhanced Graph Neural Networks

최근 대규모 언어 모델(LLM)은 노드(node) 표현에 의미론적 정보를 풍부하게 더함으로써 그래프 신경망(GNN)을 발전시켰고, 이를 통해 상당한 성능 향상을 달성하는 LLM 강화 GNN(LLM-enhanced GNN)이 등장했습니다. 그러나 이러한 의미론적 강화가 프라이버시 위험에 어떤 영향을 미치는지는 여전히 거의 탐구되지 않았습니다. 이러한 격차를 해소하기 위해, 본 연구는 (1) 데이터셋 준비, (2) 피해자 모델 학습(training), (3) 프라이버시 공격, (4) 위험 평가, (5) 방어 분석의 5단계로 구성된 통합 프레임워크를 통해 LLM 강화 GNN의 프라이버시 위험을 체계적으로 감사합니다. 구체적으로, 본 평가는 다양한 도메인에 걸친 10개의 텍스트 속성 그래프 데이터셋, 6가지 프라이버시 공격, 42가지 LLM 강화 GNN 구성, 그리고 3개의 최신 언어 모델 백본을 포괄합니다. 광범위한 실험 결과에 따르면, 유용성 향상에도 불구하고 LLM 강화 GNN은 평가된 공격 하에서 다양한 모델과 데이터셋 전반에 걸쳐 얕은 텍스트 표현 베이스라인보다 경험적으로 일관되게 더 큰 프라이버시 취약성을 나타냅니다. 추가 분석을 통해 LLM 강화 표현이 임베딩(embedding) 공간에서 링크, 레이블 및 멤버십 관련 신호를 더 뚜렷하게 구별할 수 있게 하여 추론(inference) 공격에 더 쉽게 악용될 수 있음을 보여줍니다. 마지막으로, 대표적인 방어 기법들을 평가하고 이러한 프라이버시 위험을 완화하는 효과를 검토합니다. 전반적으로 본 연구는 LLM 강화 GNN의 프라이버시 위험에 대한 체계적인 감사를 제공하며, 보다 안전하고 신뢰할 수 있는 그래프 학습 시스템을 개발하기 위한 통찰을 제시합니다.

arXiv:2609.35882v2cs.CR공통 태그 Edge-computing, Privacy Preserving

GenomeOcean Anywhere: 게놈 MoE 모델을 위한 비공개 WebGPU 추론

GenomeOcean Anywhere: Private WebGPU Inference for Genome MoEs

게놈 파운데이션 모델(foundation model)은 시퀀스(sequence)가 생성되는 곳에서 가장 유용하지만, 가장 큰 모델들은 데이터센터급 가속기와 민감한 DNA 정보를 전송할 장소를 필요로 한다. 본 연구는 150억 개 매개변수(parameter) 규모의 게놈 전문가 혼합(MoE) 모델이 전문가(expert)들을 여러 신뢰할 수 없는(untrusted) 기기들에 분산시킨 채, 예측 결과를 바꾸지 않고도, 그리고 어떤 단일 기기에도 시퀀스를 노출하지 않으면서 자원봉사자들의 웹 브라우저에서 대신 실행될 수 있는지를 묻는다. 우리는 신뢰할 수 있는 코디네이터(coordinator)가 어텐션(attention)과 라우팅(routing)을 수행하고, 브라우저 워커(worker)들이 손수 작성한 WebGPU 커널을 통해 모든 전문가의 순전파 신경망(feed-forward network)을 실행하는 시스템을 구축했으며, 실수값 라그랑주 코딩 계산(real-valued Lagrange coded computing)으로 전문가 입력을 보호한다: 각 워커는 가우시안 패딩(Gaussian-padded) 처리된 공유값(share)만을 받아 전문가의 선형 변환(linear map)을 계산하고, 코디네이터는 세 워커 중 임의의 두 워커로부터 결과를 복호화(decode)한다. GenomeOcean-MoE(전문가 8개, top-2 라우팅, 24개 레이어)에서, 브라우저 경로는 모든 양자화(quantization) 수준에서 네이티브(native) llama.cpp와 일치하며, 분산 경로는 BF16 수치 노이즈 바닥(numerical noise floor) 수준을 유지하고(토큰당 KL 0.0036 나트(nats)), 별도로 피팅하지 않은(unfitted) 지연시간 모델은 에뮬레이션된 광역망(wide-area link) 환경에서 디코드(decode) 시간을 0.74%(중앙값) 오차 내로 예측한다. 우리는 먼저 평문(plaintext) 상태의 전문가 입력이 프라이버시를 보장하지 못함을 보인다: 프로브(probe)는 모든 깊이(depth)에서 단일 벡터로부터 토큰을 복원하며, 한 워커는 순서 없는(unordered) 300개의 토큰으로부터 92%의 정확도로 원본 게놈을 식별할 수 있다. 코딩된(coded) 전문가를 사용하면, 공유값으로 학습된 적응형 공격자(adaptive attacker)의 성능은 최다 빈도 토큰 기준선(most-frequent-token baseline) 수준으로 떨어지고, 각 토큰에 대해 한 워커가 얻는 정보는 순전파(forward pass)당 1비트 미만으로 제한되며, 정확도(fidelity) 손실은 BF16 노이즈 바닥 이하로 유지된다. Chrome에서 코딩된 디코딩은 라우팅 정보가 얼마나 은닉되는지에 따라 토큰당 220~376ms로 실행되며, 워커 하나가 실패해도 복제본(replica) 없이 계속 동작한다.

arXiv:2610.02943v1cs.CV공통 태그 Privacy Preserving, Membership Inference Attack

피험자 수준 프라이버시를 고려한 기구학 유도 다중 모달 3D 인간 자세 추정

Kinematics-Induced Multimodal 3D Human Pose Estimation with Subject-Level Privacy

다중 모달 3D 인간 자세 추정(3D Human Pose Estimation, 3D HPE)은 RGB, LiDAR, mmWave 레이더의 상호 보완적인 정보를 결합하지만, 동일한 개인으로부터 얻은 상관된 관측치로 학습된 모델은 레코드 수준 분석에서는 간과되는 프라이버시 위험을 초래합니다. 본 논문에서는 기구학 유도(kinematics-induced) 센서 융합을 피험자 수준(subject-level) 프라이버시 감사 및 프라이버시 보존 학습과 결합한 다중 모달 3D HPE를 위한 통합 프레임워크를 제시합니다. 첫째, 제안하는 다중 모달 모델은 모달리티별 관절 표현을 정렬하고 골격 구조를 주입하며 상호 보완적인 센서 단서를 적응적으로 통합하여 정확한 자세 예측을 수행합니다. 둘째, 개별 공격 점수 결과가 멤버십 결과에 대한 추론을 어떻게 변화시키는지 특성화하는 경험적 점별 최대 누출(pointwise maximal leakage) 분석을 보완하여, 3D HPE를 위한 블랙박스 피험자 멤버십 추론 공격(membership inference attack)을 정식화합니다. 셋째, 행동 및 시간적 범위를 보장하는 모집단 가중 피험자 내 샘플링 전략인 행동-시간 계층화(Action Temporal Stratification)를 통해 사용자 수준 차분 프라이버시(differential privacy)를 구현합니다. 세 가지의 다양한 실험 프로토콜에 걸쳐 MM-Fi 데이터셋에서 본 프레임워크를 평가합니다. 소스 코드는 논문 채택 시 공개될 예정입니다.

arXiv:2609.22277v1cs.AI공통 태그 Edge-computing, Privacy Preserving

시각장애인 다중모달 이동 보조를 위한 저렴한 AI 통합 스마트 지팡이

An Affordable AI-Integrated Smart Cane for Multimodal Mobility Assistance of Visually Impaired Users

전 세계 22억 명 이상이 시각장애를 겪고 있으나, 기존 흰 지팡이는 높이 있는 위험 요소를 감지하거나 의미론적 환경 맥락을 제공할 수 없다. 기존 AI 보조 내비게이션 시스템은 일반적으로 고가의 하드웨어 또는 클라우드 연결에 의존하여, 자원이 제한된 환경에서의 접근성을 제한한다. 본 논문은 초저전력 Raspberry Pi Zero 2W에서 다중모달 이동 보조를 위해 설계된 저렴한(88 USD) 완전 오프라인 AI 통합 스마트 지팡이를 제안한다. 시스템은 RGB 비전 감지와 Time-of-Flight(ToF) 거리 추정을 융합하고, INT8 양자화 SSD MobileNet V1 모델을 거리 인식 진동 촉각 피드백 및 실시간 오디오 알림과 결합한다. 제한된 하드웨어에서의 운영 견고성을 위해, 멀티프로세싱 아키텍처가 센서 획득, 신경망 추론, 햅틱 피드백을 장애 안전 센싱 지원과 함께 독립 프로세스로 분리한다. 실내 이동 시나리오에 걸친 실험 평가는 macro-averaged F1-score 0.82(정밀도: 0.85, 재현율: 0.81), 평균 end-to-end 지연 330 ms, 최대 전력 소모 2.8 W를 보여준다. 12명 참가자(SUS: 78.5, NASA-TLX)를 대상으로 한 예비 사용성 연구는 긍정적인 사용자 인식과 향상된 장애물 인식을 보여주었다. 제안된 프로토타입은 비용에 민감한 이동 보조를 위한 프라이버시 보존형 엣지 네이티브 보조 지능 배포의 타당성을 검증한다.

arXiv:2609.24669v1cs.CR공통 태그 Edge-computing, Privacy Preserving

엣지 기반 IoT 보안에서의 신뢰: 특징, 과제 및 연구 방향

Trust in Edge-Enabled IoT Security: Features, Challenges and Research Directions

인간의 삶과 산업에 자율적 지능, 유비쿼터스 연결성 및 사용 편의성을 제공함에 따라 사물인터넷(IoT)이 등장하게 되었습니다. 시간에 민감하고 자원이 제한된 애플리케이션을 지원하기 위해 오늘날의 IoT 시스템은 점점 더 엣지 컴퓨팅(edge computing)에 의존하고 있습니다. 이는 연산과 의사결정을 엔드 디바이스에 더 가깝게 만듭니다. 엣지 기반 IoT 아키텍처에서는 지연 시간과 통신 오버헤드가 감소하지만, 더욱 광범위하고 다양한 디바이스, 엣지 노드, 서비스 및 데이터 소스 간의 상호작용 또한 발생합니다. 이러한 환경에서 보안 및 프라이버시 메커니즘은 보호를 위한 기반을 제공하는 한편, 신뢰 관리는 상호작용하는 개체의 신뢰성을 평가하고 안전한 결정을 적응시킬 수 있습니다. 본 논문에서는 엣지 기반 IoT에서의 신뢰 관리 현황을 체계적으로 검토합니다. 이를 위해 물리, 네트워크 및 애플리케이션 아키텍처 IoT 계층을 소비자, 상업, 산업 및 인프라 IoT 도메인에 매핑하는 포괄적인 분류 체계를 제안합니다. 나아가 신뢰 설계, 보안 IoT 운영에 신뢰가 통합되는 방식, 신뢰 관리 프로세스에 영향을 미치는 공격을 기반으로 최신 연구를 조사합니다. 이러한 조사 결과를 바탕으로 현재 연구의 주요 공백을 식별하고 엣지 기반 IoT에서 문맥 인식 및 적응형 신뢰 관리를 위한 향후 방향을 제시합니다.

arXiv:2607.20890v3cs.LG공통 태그 Edge-computing, Privacy Preserving

경량 연합 학습을 위한 정보 이론적 보안 집계: 드롭아웃 및 적대자에 강건

Information-Theoretically Secure Aggregation for Lightweight Federated Learning: Resilient to Dropouts and Adversaries

온디바이스 연합 학습(FL)은 스마트폰 및 IoT 노드와 같은 자원 제약이 있는 디바이스에서 프라이버시를 보존하면서 개인화된 모델 학습을 가능하게 한다. 통신 비용을 줄이기 위해 부호 기반 방법(예: signSGD)은 1비트 그래디언트를 전송한다. 그러나 그래디언트 부호를 노출하면 추론 공격에 취약해지며, 기존 보안 집계 방식은 이러한 방법과 호환되지 않거나 상당한 계산 및 통신 오버헤드를 발생시키는 경우가 많다. 우리는 부호 기반 FL에 맞춘 경량의 정보 이론적 보안 집계 프레임워크를 제안한다. 이 프레임워크는 단일 라운드 보안 곱셈을 통해 다수결(MV) 다항식을 안전하게 계산하며, 정직한 과반수 가정 하에서 종단 간 정보 이론적 보안을 보장하면서 서버에는 최종 집계된 부호만 공개한다. 효율성과 확장성을 높이기 위해 두 가지 핵심 기법을 도입한다. 첫째, 역형(inverse-form) 지수 축소는 유효 MV 다항식 차수를 절반으로 줄여 통신 및 계산 비용을 모두 낮춘다. 둘째, 단일 라운드 보안 곱셈을 제안하여 단 한 번의 온라인 통신만으로 선형 오프라인 복잡도와 저장 공간을 달성한다. 이들 기법을 결합하면 기존 방식 대비 온라인 통신을 최대 99.5%, 지연 시간을 최대 85.7% 줄인다. 또한 내재된 MDS 코드 기반 디코딩을 활용하여 드롭아웃과 적대적 행동 모두에 대한 강건성을 달성하며, 각각 최대 20.65% 및 10.74%의 정확도 향상을 얻는다. 전반적으로, 제안된 프레임워크는 부호 기반 FL에서 대규모, 저지연, 정보 이론적 보안 집계를 위한 실용적 기반을 마련한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.