Optimal Semantic-aware Sampling and Transmission in Energy Harvesting Systems Through the AoII
원문 초록
We study a real-time tracking problem in an energy harvesting status update system with a Markov source and an imperfect channel, considering both sampling and transmission costs. The problem primary challenge stems from the non-observability of the source due to the sampling cost. By using the age of incorrect information (AoII) as a semantic-aware performance metric, our main goal is to find an optimal policy that minimizes the time average AoII subject to an energy-causality constraint. To this end, a stochastic optimization problem is formulated and solved by modeling it as a partially observable Markov decision process (POMDP). More specifically, to solve the main problem, we use the notion of a belief state and cast the problem as a belief MDP problem. Then, for the perfect channel setup, we effectively truncate the corresponding belief space and solve the MDP problem using the relative value iteration method. For the general setup, a deep reinforcement learning policy is proposed. The simulation results show the efficacy of the derived policies in comparison to an AoI-optimal policy and an opportunistic baseline policy.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
결정론적 정책을 이용한 확장 평균장 제어를 위한 액터-크리틱 학습
Actor-Critic Learning for Extended Mean Field Control with Deterministic Policies
본 논문은 연속시간 확장 평균장 제어 문제를 위한 모델 프리(model-free) 강화학습(reinforcement learning) 프레임워크를 개발한다. 이 문제에서는 동역학과 보상(reward) 모두 상태와 제어의 결합 분포에 의존할 수 있다. 우리는 결정론적 피드백 정책을 채택하며, 이 정책 하에서 상태-행동 분포는 상태 분포의 푸시포워드(push-forward)로 직접 유도된다. 이를 통해 확률적 커널에 대한 최적화를 피하고, 확장 평균장 설정에서 기존 접근법의 핵심 한계를 우회한다. 먼저 매개변수화된(parameterized) McKean-Vlasov 동역학에 대한 모델 프리 감도 공식을 수립하고, 이를 활용하여 Wasserstein 공간 위의 어드밴티지-레이트 함수(advantage-rate function)를 통해 표현되는 결정론적 정책 그래디언트(policy gradient) 공식을 도출한다. 이어서 상태, 행동, 결합 상태-행동 분포에 의존하는 국소 가치 및 어드밴티지-레이트 표현을 도입하여 이 공식을 정제하며, 행동 도함수(derivative)와 제어 분포에 대한 측도 도함수 항을 모두 포함하는 정책 그래디언트를 산출한다. 이러한 특성화는 마팅게일 기반 학습 원리로 이어지며, 입자 근사(particle approximation), 측도 의존 신경망, 시간차 학습(temporal-difference learning), 행동 또는 매개변수 공간에서의 탐험(exploration)을 결합한 연속시간 심층 결정론적 정책 그래디언트 알고리즘을 동기부여한다. 확률적 Cucker-Smale 합의 제어 및 거래 집중을 수반하는 최적 청산 문제에 대한 수치 실험을 통해, 제어 분포에 대한 명시적 의존성을 포함하는 문제에서 제안된 방법의 효율성, 안정성, 강건성을 입증한다.
강화학습의 수학적 방법론
Mathematical methods of reinforcement learning
강화학습(RL)은 확률론, 최적화, 작용소 이론의 도구들에 점점 더 깊이 기반을 두고 있다. 이 서베이는 현대 강화학습 알고리즘의 설계와 분석을 뒷받침하는 수학적 구조를 체계적으로 정리한다. 마르코프 결정 과정(MDP)과 벨만 작용소(Bellman operator)에서 출발하여, 수렴 보장과 수렴 속도를 이끌어 내는 수축 사상(contraction mapping), 단조성(monotonicity), 고정점 이론을 가치 반복(value iteration), 정책 반복(policy iteration), 시간차(temporal-difference) 방식에 걸쳐 강조한다. 이어서 최적화 관점을 전개하는데, 확률적 근사(stochastic approximation)와 마팅게일(martingale) 방법, 볼록 쌍대성(convex duality), 그리고 미러/근위(mirror/proximal) 방법과 정규화의 연결 관계를 다룬다. 함수 근사(function approximation)는 선형 및 비선형 설정 모두를 다루며, 안정화(stabilization), 오차 분해(error decomposition), 그리고 종속 데이터 및 혼합 과정에 대한 집중 부등식(concentration inequality)을 통한 샘플 복잡도(sample complexity)를 포함한다. 나아가 오프-정책 평가/학습, 제약 강화학습과 제약 MDP(CMDP)를 다룬다. 전반에 걸쳐 공통된 작용소 및 변분적 관점 하에 알고리즘 템플릿을 통합하고, 유한 샘플 경계와 점근적 결과를 함께 조명한다. 이 논문은 강화학습에 관심 있는 확률론, 최적화, 통계학 연구자들에게 통합된 수학적 진입점을 제공하고자 한다.
지능의 그림자 가격: LLM 추론에서의 품질 저하와 재시도 피드백
The Shadow Price of Intelligence: Quality Degradation and Retry Feedback in LLM Inference
대규모 언어 모델 제공자는 연산 자원이 제약되어 있으며, 혼잡에 대한 일반적인 대응은 서비스를 저하시키는 것이다. 즉, 질의를 더 작은 모델로 라우팅하거나, 추론 예산을 줄이거나, 컨텍스트 윈도를 단축한다. 만족스럽지 못한 답을 받은 사용자는 재시도하여 시스템이 바쁜 동안 부하를 늘리거나, 이탈하여 잠재적으로 고객 이탈로 이어진다. 우리는 추론 서비스를 서비스 품질이 제공자의 의사결정인 제어 문제로 모델링한다. 재시도를 서비스율에 포함한 2국면 유체 근사는 닫힌 형태의 궤적과 교차 시간을 제공하므로, 품질 등급에 대한 동적 계획법에 시뮬레이션이 필요하지 않다. 우리는 더 약한 등급이 작업당 에너지는 덜 쓰지만 작업당 용량은 더 쓰는 영역을 규명하고, 유체 모델에서 그러한 등급으로의 반응적 스로틀링이 큐가 해소되지 못하게 할 수 있음을 보인다. 이질적인 고객이 있는 경우 이 문제는 재시도로 부풀려진 용량 계수를 갖는 수송 문제가 되며, 최적 라우팅은 $c\mu$ 유형의 지수를 따르고, 용량 제약의 쌍대는 클래스와 시간별로 질의 하나를 더 처리하는 한계 비용을 제공한다. 우리는 공개 벤치마크 데이터로 보정한 다섯 가지 사례에서 이 방법을 예시한다.
강볼록 집합 상의 무작위화 선형 오라클 최적화에 대한 하한
Lower Bounds for Randomized Linear-Oracle Optimization over Strongly Convex Sets
최근 결과들[arXiv:2602.04378, arXiv:2602.22608]은 강볼록 집합 위의 최적화에 대한 하한을 각각 특정 Frank-Wolfe 갱신과 제한 없는 결정론적 1차 선형 최소화 오라클(LMO) 방법에 대해 확립하였다. 어느 쪽도 제한 없는 무작위화 방법에 대한 하한은 확립하지 못한다. 우리는 최종 출력이 모든 인스턴스와 시드에서 실현 가능해야 한다는 조건 하에, 강볼록 집합 위의 무작위화 1차 LMO 방법에 대해 오라클 호출 $T$회 후 $\Omega(L\operatorname{diam}(S)^2/T^2)$ 분포적 하한을 증명함으로써 이 간극을 메운다. 우리의 구성은 [arXiv:2602.22608]의 족을 재사용하지만, 증명은 적응적 질의 이후 숨겨진 순열의 조건부 분포를 규명하고 최적화기 분산을 제어하는 조합적 통계량의 기대 감소량에 대한 상계를 제시한다. 또한 동일한 오차 임계값이 적어도 $3/4$의 확률로 성립하며 정지 시간 꼬리 한계를 도출함을 보인다. 우리의 구성은 [arXiv:2602.22608]과 동일한 곡률-지름 결합을 사용한다. 상계 [arXiv:1406.1305]와의 비교는 이 결합을 반드시 고려해야 한다. 별도로, 규정된 느린 정확 직선 탐색 Frank-Wolfe 궤적이 충분히 작은 초기화 오차를 국소적으로 증폭할 수 있음을 보이며, 이는 반복당 대략 1비트의 추가 초기화 정확도에 해당한다. 또한 특정한 최종 느린 포락선을 만족하는 초기화는 평면 측도가 0임을 보인다.
학습된 불확실성은 언제 신뢰할 수 있는가? 분포적 강화학습에 대한 감사
When Can Learned Uncertainty Be Trusted? An Audit of Distributional Reinforcement Learning
많은 학습된 예측 모델은 불확실성을 확률분포로 표현하며, 플래너와 정책은 이 분포를 이용해 위험을 판단한다. 그러나 모델이 분포를 출력한다는 사실만으로는 그 분포가 의사결정과 관련된 환경의 불확실성을 포착하는지 알 수 없다. 본 연구는 이 문제를 분포적 강화학습에서 다루며, 여기서 학습된 반환 분포 P_{\theta}(Z | s,a)는 스냅샷-재시작 몬테카를로로 추정한 환경 기반 분포 P_env(Z | s,a)와 직접 비교될 수 있다. 우리의 감사는 먼저 상위 두 행동 간의 초과 Wasserstein 격차(1차 확률 지배가 위배되는 질량과 같음)를 이용하여 위험 민감 사용자가 근거로 삼을 주장들을 선별한다. 이후 각 주장은 순열 귀무분포, 부트스트랩 반박, FDR 통제를 사용하여 실제 정답과 대조하여 검증된다. MinAtar에서 QR-DQN, C51, IQN(33회 실행) 전반에 걸쳐, 가장 강하게 주장된 위험 상충 관계의 40-95%가 95% 신뢰도로 반박되었고, 그 배치는 정답을 모르는 배치와 통계적으로 구별되지 않았으며, 확인될 수 있는 것은 거의 없었다. 사전 학습된 전체 Atari QR-DQN에서도 유사한 양상이 나타났다. 크기를 아는 양성 대조군에서는 동일한 감사가 실제 주장의 96-100%를 확인하여(상관 0.89-0.92), 실제 위험이 존재할 때 이를 탐지할 수 있다. 가장 많이 표시된 상태에서 학습된 CVaR 조언에 따라 행동하면 그 결과는 유익한 경우부터 우연보다 유의하게 나쁜 경우까지 다양했다. 앙상블, 위험 민감 학습, 재보정은 문제를 해결하지 못하며, 재보정 실험은 학습된 분산이 실제 위험에 관해 쓸 만한 정보를 갖지 않음을 시사한다. 이러한 결과에 따라, 학습된 세계 모델의 추정을 포함한 불확실성 추정은 그것이 사용되는 의사결정 지점에서 실현된 결과와 대조하여 검증되어야 한다고 제안한다.
시나리오 기반 모델 예측 제어의 학습 기반 가속
Learning-enabled Acceleration of Scenario-based Model Predictive Control
시나리오 기반 모델 예측 제어(SBMPC)는 여러 예측 시나리오에 걸쳐 제어 입력을 최적화함으로써 불확실성을 명시적으로 고려하는 모델 예측 제어(MPC)의 한 변형이다. 그러나 계산 복잡도가 시나리오 수와 예측 구간에 따라 급격히 증가하여 실시간 계획 및 제어에의 적용이 제한된다. 본 논문은 병렬 계산과 Moreau 포락선 학습을 활용하여 높은 해의 정확도를 유지하면서 SBMPC 문제를 효율적으로 풀기 위한 학습 가속 교대 방향 승수법(ADMM) 알고리즘을 제시한다. 우리는 SBMPC 문제를 ADMM으로 분해할 수 있는 합의 형태로 재구성하여, 시나리오 의존적 동역학을 비예측성 제약으로부터 분리하고 시나리오와 시간 단계에 걸친 병렬 갱신을 가능하게 한다. 이 분해를 바탕으로, 비용 함수의 Moreau 포락선 학습을 활용하는 learning-to-optimize 기법으로 ADMM의 주 변수 갱신을 가속하여 계산 시간을 줄인다. 제안한 프레임워크는 부하와 재생에너지 발전의 불확실성을 갖는 마이크로그리드 에너지 관리 문제에서 평가된다. 대표적인 최신 비선형 계획법 솔버인 IPOPT 및 MadNLP와의 비교에서, 신뢰할 수 있는 폐루프 제어 성능을 유지하면서 상당한 계산 속도 향상을 보였다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.