SymQNet: 저지연 적응형 해밀토니안 학습을 위한 상각된 획득
SymQNet: Amortized Acquisition for Low-Latency Adaptive Hamiltonian Learning
한국어 초록
적응형 해밀토니안 학습(adaptive Hamiltonian learning)은 양자 장치의 보정과 특성화에 핵심적이다. 적응형 제어기에서는 다음 실험을 선택하는 것 자체가 하나의 계산이다. 베이지안 설계 규칙은 사후(posterior)가 갱신될 때마다 재계산되며, 이 단계는 수초가 걸릴 수 있다. 수백 번의 shot에 걸쳐 이 수초들은 적응성(adaptivity)에 있어 상당한 실제 시간(wall-clock) 비용이 된다. 우리는 저지연 적응형 해밀토니안 학습을 위한 상각된 강화학습(amortized reinforcement-learning) 접근법인 SymQNet을 제안한다. SymQNet은 오프라인에서 사후 분포 조건 획득 정책(posterior-conditioned acquisition policy)을 학습한 뒤, 베이지안 사후 피드백을 유지하면서 온라인에서는 빠른 정책 순전파(forward pass)를 사용한다. 횡장 Ising 벤치마크에서 SymQNet은 경계 Fisher 정보 탐색(bounded Fisher-information search) 및 경계 2단계 Bayesian active learning by disagreement(BALD) 대비 획득 지연 시간(acquisition latency)을 크게 줄인다. 5큐비트에서는 이러한 온라인 기준선 대비 획득 전용 의사결정 지연 시간을 각각 $47.1\times$ 및 $72.6\times$ 줄였으며, 12큐비트에서는 전체 시뮬레이션 단계가 SymQNet에서 $1.02$ s, 경계 2단계 BALD에서 $13.27$ s가 걸린다. 전반적으로, 학습된 획득(learned acquisition)이 반복적인 저지연 워크로드에서 적응형 해밀토니안 학습을 실용적으로 만들 수 있음을 보여준다.
원문 초록
Adaptive Hamiltonian learning is central to calibrating and characterizing quantum devices. In an adaptive controller, choosing the next experiment is itself a computation. Bayesian design rules are recomputed after every posterior update, and that step can take seconds. Across hundreds of shots, those seconds become a significant wall-clock cost for adaptivity. We introduce SymQNet, an amortized reinforcement-learning approach for low-latency adaptive Hamiltonian learning. SymQNet learns a posterior-conditioned acquisition policy offline, then uses a fast policy forward pass online while retaining Bayesian posterior feedback. On transverse-field Ising benchmarks, SymQNet substantially reduces acquisition latency relative to bounded Fisher-information search and bounded two-step Bayesian active learning by disagreement (BALD). At five qubits, it reduces acquisition-only decision latency by $47.1\times$ and $72.6\times$ relative to these online baselines; at twelve qubits, full simulated steps take $1.02$ s for SymQNet versus $13.27$ s for bounded two-step BALD. Overall, we show that learned acquisition can make adaptive Hamiltonian learning practical for repeated low-latency workloads.
요약
적응형 해밀토니안 학습(adaptive Hamiltonian learning)의 계산 비용을 줄이기 위해 오프라인에서 획득 정책을 학습하는 SymQNet이라는 상각된 강화학습(amortized reinforcement-learning) 접근법을 제안한다. 이 방법은 온라인 추론 속도를 높여 기존 방법 대비 지연 시간(latency)을 획기적으로 단축함으로써 실용적인 반복 작업을 가능하게 한다.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.12808v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
수색·구조를 위한 자율 UAV 군집의 지능형 3계층 학습 아키텍처
Intelligent Three Level Learning Architecture for Autonomous UAV Swarms in Search and Rescue
본 논문은 수색·구조 작업을 수행하는 자율 UAV 군집을 위한 새로운 3계층 계층적 학습 아키텍처를 제안한다. 모든 계층 수준에 단일 학습 패러다임을 적용하는 기존 접근과 달리, 제안 아키텍처는 반사(reflexes), 기술(skills), 추론(reasoning)의 생물학적 계층에 대응하는 세 가지 질적으로 다른 학습 메커니즘을 통합한다: 개별 에이전트 적응을 위한 Hebbian 신경가소성, 전술적 협조를 위한 그래프 신경망(GNN)과 행동 트리(Behavior Trees)를 활용한 다중 에이전트 강화학습(MARL), 그리고 전략적 의사결정을 위한 BDI 추론과 디지털 트윈을 갖춘 모델 불변 메타 학습(model-agnostic meta learning). 아키텍처는 BDI, Behavior Trees, GNN, MARL, Neuroplasticity, Meta Learning 등 6개 구성요소에 걸쳐 22개의 아키텍처 계약으로 형식화되며, 이들은 안전성, 예산 정확성, 최적성, 활성(liveness), 기아(starvation) 자유, 계층 간 일관성과 같은 6가지 형식적 보장 클래스를 공동으로 제공한다. 우리는 3개 수준 전체의 구조화된 상호작용에서 발생하는 조합적 속성인 군집 메타 인지(Swarm Meta Cognition)를 도입하여, 군집이 자신의 인지 상태를 모니터링하고 인지 전략 간 전환을 가능하게 한다. SAR 작업 유형에 대한 5가지 구성적 진행 함수는 추상적 최적화 이론과 구체적 운용 시나리오 사이의 간극을 메운다. 주요 통합 정리는 모든 계약이 충족될 때 하이브리드 신경-기호 시스템이 6가지 보장 클래스를 모두 보존함을 확립한다. 능동 학습(active learning)이 포함된 동적 경우에 대해 5개의 새로운 계약이 프레임워크를 확장하여 인지적 회복력, 우아한 성능 저하(graceful degradation), 단조 메타 개선(monotonic meta improvement)의 3가지 추가 보장을 제공한다. 이론적 분석은 해당 아키텍처가 기존 계층적 RL 접근법의 5가지 근본적 한계를 해결함을 보여준다.
능동적 오프라인-온라인 강화학습
Active Offline-to-Online Reinforcement Learning
배경: 오프라인 강화학습(RL)은 대규모의 사전 수집된 데이터셋으로부터 효과적인 정책을 학습하고, 이후 제한된 온라인 상호작용을 통해 성능을 개선할 수 있게 한다. 이러한 오프라인-온라인 강화학습(O2O-RL) 패러다임은 상호작용 비용이 높거나 잠재적으로 위험한 비정상(nonstationary) 도메인에서 특히 유망하다. 표준 O2O-RL 파이프라인은 여러 후보 정책을 오프라인으로 학습하고, 오프-정책(off-policy) 또는 온라인 평가를 통해 이를 평가한 뒤, 추정 가치가 가장 높은 정책을 배포하여 미세조정(fine-tuning)한다. 그러나 오프라인 사전학습과 마찬가지로, 미세조정 성능은 알고리즘과 하이퍼파라미터 선택에 매우 민감하여 단일 정책으로 확정하는 것은 위험을 수반한다. 목적: 본 연구는 O2O-RL 환경에서 제한된 상호작용 예산 내에 미세조정을 위한 능동적 정책 선택 문제를 다룬다. 이는 해당 문제를 다룬 최초의 연구이다. 방법: 온라인 상호작용을 정책 평가에 할당하는 것(고성능 정책 식별에 기여)과 미세조정에 할당하는 것(정책 성능 향상에 기여) 사이의 근본적인 트레이드오프를 규명하여 문제를 정식화한다. 이후 온라인 평가를 통해 획득한 관측값에 피팅된 국소 선형 성능 예측(locally linear performance forecasts)으로부터 도출된 미래 성능의 상한 신뢰 구간(upper-confidence bounds)에 기반하여 미세조정할 정책을 능동적으로 선택함으로써 이 트레이드오프를 균형 있게 조정하는 방법을 제안한다. 결과: 다양한 실험에 걸쳐 제안된 방법은 기존 O2O-RL 베이스라인을 일관되게 능가한다. 결론: 정책을 능동적으로 선택하고 미세조정하는 방식은 단일 정책으로 확정하거나 예산을 모든 정책에 균등하게 배분하는 방식보다 제한된 온라인 상호작용 예산을 더 효과적으로 활용한다. 또한 본 프레임워크는 온라인 상호작용이 비용이 높거나 위험한 실제 시스템에서의 실용적 배포를 향해 오프라인 강화학습을 진전시킨다.
Adaptive Reparametrized Time for Score-Based Diffusion Sampling
When Can Learned Uncertainty Be Trusted? An Audit of Distributional Reinforcement Learning
보상 인플레이션: 강화학습을 위한 건강한 자극
Reward Inflation: A Healthy Stimulus for Reinforcement Learning
로봇 행동을 위한 fNIRS 기반 오프라인 강화학습 접근법
An offline approach to fNIRS-guided reinforcement learning for robot behavior
토론
이 논문과 연결된 포럼 글이 아직 없습니다.