vFedProtoQNAS: 가상 연합 학습을 위한 프로토타입 기반 개인화 양자 신경망 아키텍처 탐색
vFedProtoQNAS: Prototype-Guided Personalized Quantum Neural Architecture Search for Virtual Federated Learning
한국어 초록
양자 연합 학습(Quantum Federated Learning, QFL)은 리소스가 제한된 디바이스의 분산된 개인 프라이빗 데이터를 바탕으로 소형 양자 신경망(Quantum Neural Network, QNN)을 협력적으로 학습(training)하기 위한 유망한 접근 방식으로 떠올랐습니다. 그러나 디바이스 성능의 차이로 인해 단일 공유 QNN 아키텍처를 모든 클라이언트에 일괄 적용하기는 어렵습니다. 개인화 양자 신경망 아키텍처 탐색(Quantum Neural Architecture Search, QNAS)을 사용하면 각 클라이언트가 디바이스 맞춤형 QNN을 선택할 수 있지만, 구조적으로 서로 다른 QNN 아키텍처 전반에 걸쳐 파라미터를 평균화하면 의미론적으로 일치하지 않는 회로 연산들이 섞이게 됩니다. 이를 해결하기 위해 가상 FL을 위한 프로토타입 기반 개인화 QNAS(vFedProtoQNAS)를 제안합니다. 이 방식에서는 클라이언트 간에 모델(model) 파라미터를 집계하지 않으며, 클래스별 프로토타입 공유를 통해 연합 협력을 달성합니다. 각 클라이언트는 클라이언트 맞춤형 QNN을 독립적으로 탐색 및 학습하고, 잠재 표현으로부터 클래스별 로컬 프로토타입을 계산한 후, 서버의 글로벌 프로토타입을 연합 의미 앵커(anchor)로 활용하여 이를 개선합니다. 실험을 통해 vFedProtoQNAS가 FedAvg 대비 정확도를 3.70% 향상시키고 클래스 일관적인 표현 정렬을 개선함을 입증합니다.
원문 초록
Quantum federated learning (QFL) has emerged as a promising approach for collaboratively training compact quantum neural networks (QNNs) over distributed private data on resource-constrained devices. However, differences in device capabilities make a single shared QNN architecture unsuitable for all clients. While personalized quantum neural architecture search (QNAS) allows each client to select a device-specific QNN, averaging parameters across structurally different QNN architectures mixes semantically inconsistent circuit operations. To address this, prototype-guided personalized QNAS for virtual FL (vFedProtoQNAS) is proposed, where model parameters are never aggregated across clients and federated collaboration is achieved through class-wise prototype sharing. Each client independently searches and trains a client-specific QNN, computes class-wise local prototypes from latent representations, and refines them using global prototypes from the server as federated semantic anchors. Experiments demonstrate that vFedProtoQNAS improves accuracy by 3.70\% over FedAvg and enhances class-consistent representation alignment.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
OrchNAS: 개인화 연합 엣지 지능을 위한 오케스트레이션 신경 아키텍처 탐색(NAS) 서비스
OrchNAS: Orchestrated Neural Architecture Search Service for Personalised Federated Edge Intelligence
본 논문은 OrchNAS를 제안한다. OrchNAS는 에너지 인식, 개인화, 연합 엣지 지능 프레임워크로, 신경 아키텍처 탐색(NAS) 서비스를 활용하여 이질적인 엣지 환경에 맞는 서비스 적응형 모델을 자동으로 설계한다. 이 프레임워크는 서버 측 NAS 서비스에서 아키텍처 탐색 과정을 조율하여, 엣지 서비스가 장치 수준의 에너지, 연산, 메모리 제약 하에서 개인화된 아키텍처를 도출할 수 있게 한다. 또한 이질적인 서비스 전반에 걸쳐 간결한 전역 표현을 학습하는 에너지 인식 전역 아키텍처 탐색 메커니즘을 도입한다. 점진적·탐욕적·에너지 인식 가지치기(pruning) 전략을 통해 각 서비스가 자원 제약을 만족하는 개인화된 서브넷을 도출할 수 있도록 하는 에너지 효율적 아키텍처 선택 메커니즘을 개발한다. 전역 표현을 보존하면서 서비스 적응형 매개변수를 갱신하는 에너지 효율적 개인화 모델 최적화(optimization) 방안을 제안하며, 원-듀얼(primal-dual) 최적화 메커니즘이 아키텍처 적응 과정에서 엄격한 에너지 예산을 강제한다. 실세계 및 벤치마크 데이터셋에서의 실험을 통해 제안 접근법의 효과를 입증한다.
지능형 서비스를 위한 드리프트 안정 양자 연합 학습
A Drift Stable Quantum Federated Learning for Intelligent Services
양자 연합 학습(quantum federated learning)은 분산 클라이언트가 로컬 데이터를 공유하지 않고 양자 신경망(quantum neural networks)을 학습할 수 있게 하며, 이는 프라이버시를 고려한 지능형 서비스에 유망한 접근법이다. 이 맥락에서 지능형 서비스는 사기 탐지와 유전체 분류와 같이 프라이버시에 민감한 분산 의사결정 시스템을 가리키며, 여기서는 신뢰할 수 있고 공정한 클라이언트 수준 학습이 집계 모델의 정확도만큼 중요하다. 그러나 이질적인 클라이언트 데이터와 노이즈가 많은 양자 최적화(optimization)는 종종 불안정한 로컬 업데이트, 클라이언트 드리프트(client drift), 그리고 클라이언트 간 불공정한 성능을 야기한다. 본 논문은 deep-unfolded 로컬 최적화에 기반한 드리프트 안정 양자 연합 학습 프레임워크인 DUQFL-Prox를 제안한다. 고정된 로컬 옵티마이저를 사용하는 대신, 각 클라이언트는 적응형 unfolded SPSA 업데이트를 수행하며, proximal term은 로컬 모델을 글로벌 모델에 가깝게 유지한다. 경량 컨트롤러는 집계 후 성능을 개선하기 위해 단계별 최적화 매개변수를 학습한다. 금융 사기 탐지 및 유전체 분류 작업에 대한 실험은 DUQFL-Prox가 표준 QFL(양자 연합 학습) 베이스라인 대비 안정성, 일반화, 클라이언트 공정성을 개선함을 보여준다. 결과는 deep-unfolded 양자 연합 학습이 이질적인 분산 환경에서 더 신뢰할 수 있고 공정한 지능형 서비스를 지원할 수 있음을 시사한다.
Collate: 지연 시간이 중요한 엣지 시스템을 위한 협력적 신경망 학습
Collate: Collaborative Neural Network Learning for Latency-Critical Edge Systems
연합학습(FL)은 여러 클라이언트가 협력하여 모델을 학습할 수 있도록 하여 데이터 프라이버시를 보호하면서 각 클라이언트의 학습 데이터를 확대하고 높은 정확도를 달성한다. 그러나 실시간 엣지 시스템에 FL을 배포할 때, 시스템 간 디바이스의 이질성은 추론 모델의 성능에 심각한 영향을 미친다. 기존 FL 최적화 연구들은 학습 효율성 향상에 집중하지만, 특히 지연 시간 제약이 있는 경우 추론 속도 향상에는 실패한다. 본 연구에서는 여러 엣지 시스템의 지연 시간 제약을 동시에 충족하기 위해 이질적인 모델을 협력적으로 학습하는 새로운 학습 프레임워크인 Collate를 제안한다. 각 로컬 모델의 아키텍처를 지연 시간 제약 하에서 높은 정확도로 조정하기 위한 동적 제로화-복원(zeroizing-recovering) 방법을 설계하였다. 또한, 하나의 학습 과정만으로 서로 다른 시스템의 지연 시간 제약을 만족하면서 높은 정확도를 유지하며 모든 이질적인 로컬 모델을 집계하는 프로토 보정(proto-corrected) 연합 집계 방식을 도입하였다. 광범위한 실험 결과, 최신 기법들과 비교하여 지연 시간 제약 하에서 확장된 모델은 평균 1.96%의 정확도 향상을, 축소된 모델 또한 추가적인 학습 오버헤드 없이 평균 3.09%의 정확도 향상을 달성함을 확인하였다. 관련 코드와 데이터는 https://github.com/ntuliuteam/Collate 에서 공개될 예정이다.
에이전틱 신경망 구조 탐색
Agentic Neural Architecture Search
MMAO-Cls: Metabolic Multi-Agent Optimization for Joint Feature Selection and Classifier Tuning
OLS 회귀를 위한 데이터 분할에 대한 분산 스케칭
Distributed Sketching on Data Partitions for OLS Regression
토론
이 논문과 연결된 포럼 글이 아직 없습니다.