arXiv:2412.16167

Hierarchical Multi-Agent DRL Based Dynamic Cluster Reconfiguration for UAV Mobility Management

Irshad A. Meer, Karl-Ludwig Besser, Mustafa Ozger, Dominic Schupke, H. Vincent Poor, Cicek Cavdar

제출 2024-12-05

원문 초록

Multi-connectivity involves dynamic cluster formation among distributed access points (APs) and coordinated resource allocation from these APs, highlighting the need for efficient mobility management strategies for users with multi-connectivity. In this paper, we propose a novel mobility management scheme for unmanned aerial vehicles (UAVs) that uses dynamic cluster reconfiguration with energy-efficient power allocation in a wireless interference network. Our objective encompasses meeting stringent reliability demands, minimizing joint power consumption, and reducing the frequency of cluster reconfiguration. To achieve these objectives, we propose a hierarchical multi-agent deep reinforcement learning (H-MADRL) framework, specifically tailored for dynamic clustering and power allocation. The edge cloud connected with a set of APs through low latency optical back-haul links hosts the high-level agent responsible for the optimal clustering policy, while low-level agents reside in the APs and are responsible for the power allocation policy. To further improve the learning efficiency, we propose a novel action-observation transition-driven learning algorithm that allows the low-level agents to use the action space from the high-level agent as part of the local observation space. This allows the lower-level agents to share partial information about the clustering policy and allocate the power more efficiently. The simulation results demonstrate that our proposed distributed algorithm achieves comparable performance to the centralized algorithm. Additionally, it offers better scalability, as the decision time for clustering and power allocation increases by only 10% when doubling the number of APs, compared to a 90% increase observed with the centralized approach.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.22475v1cs.AI공통 태그 Clustering, Management

목표 기반 변형 범주화

Goal-driven Variant Categorization

프로세스 발견(process discovery)은 드물게 단일의 일관된 프로세스 구조를 산출한다. 분석을 위해 일반적인 단계는 구조적 유사성에 기반하여 프로세스 변형을 클러스터링한 뒤, 그렇게 얻은 그룹에 비즈니스적 의미를 부여하는 것이다. 이러한 분할은 조직의 목표에서 도출된 것이 아니므로, 분석가는 변형을 수동으로 해석하고 비즈니스적으로 의미 있는 범주로 통합해야 한다. 변형의 수와 복잡성이 커질수록 이 판단 집약적 단계는 점점 더 어려워진다. 본 논문에서는 이러한 워크플로를 뒤집는 목표 기반 변형 범주화 접근법을 제안한다. 먼저 범주화 축을 사전에 정의하는 조직의 목표 모델(goal model)을 작성한다. 각 변형은 그 동작을 설명하는 텍스트 서술로 변환되고, 대규모 언어 모델(LLM)이 목표 모델의 맥락에서 이를 해석하여 변형을 가장 적절한 범주에 할당한다. LLM 기반 의미론적 추론은 저수준 프로세스 동작과 분석가가 정의한 비즈니스 목표를 연결한다. 이 접근법을 종단(end-to-end)으로 구현하고, 규모와 행동 다양성에서 실질적으로 다른 세 개의 공개 로그에 대해 평가한다. 목표 모델 가이던스는 무방향 귀납(unguided induction)으로 생성된 분할과 다른 분할을 산출하며, 선언된 대안에 대한 통제된 수정에 반응하지만, 목표 모델을 작성해야 한다는 비용이 따른다.

arXiv:2610.02545v2cs.LG공통 태그 Deep Reinforcement Learning

보상 인플레이션: 강화학습을 위한 건강한 자극

Reward Inflation: A Healthy Stimulus for Reinforcement Learning

보상은 강화 학습(RL)의 주된 학습 신호이다. 그러나 보상의 크기는 보통 학습 내내 고정되는 반면, 그 시간적 조절은 아직 충분히 탐구되지 않았다. 본 논문은 학습이 진행되는 동안 보상을 점진적으로 스케일링하는 보상 인플레이션(reward inflation)을 제안하고, 이것이 RL에 건강한 자극으로 작용할 수 있음을 보인다. 이론적으로 보상 인플레이션은 정책 갱신 중 최근 전이에 더 큰 가중을 두는 암묵적 최신성 가중을 유도하여 더 빠른 적응을 가능하게 한다. 또한 보상 인플레이션이 정책이 포화될 때 그래디언트 신호를 유지함으로써 휴면 뉴런의 출현을 억제함을 보이며, 이는 가소성 보존에 기여할 가능성을 시사한다. ALE 게임과 MuJoCo 과제에 대한 실험 결과는 이러한 발견을 뒷받침하며, 적절한 수준의 보상 인플레이션이 광범위한 과제에 이롭다는 것을 보여 준다. 마지막으로 인플레이션 수준을 즉석에서 조정하는 적응형 변형인 Fed를 도입하며, 이것이 고정된 인플레이션보다 자주 성능을 향상시킨다는 것을 확인한다. 소스 코드는 https://github.com/northadventure/RewardInflation 에서 이용할 수 있다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.