arXiv:2406.16258

MEReQ: Max-Ent Residual-Q Inverse RL for Sample-Efficient Alignment from Intervention

Yuxin Chen, Chen Tang, Chenran Li, Ran Tian, Wei Zhan, Peter Stone, Masayoshi Tomizuka

제출 2024-06-24

원문 초록

Aligning robot behavior with human preferences is crucial for deploying embodied AI agents in human-centered environments. A promising solution is interactive imitation learning from human intervention, where a human expert observes the policy's execution and provides interventions as feedback. However, existing methods often fail to utilize the prior policy efficiently to facilitate learning, thus hindering sample efficiency. In this work, we introduce MEReQ (Maximum-Entropy Residual-Q Inverse Reinforcement Learning), designed for sample-efficient alignment from human intervention. Instead of inferring the complete human behavior characteristics, MEReQ infers a residual reward function that captures the discrepancy between the human expert's and the prior policy's underlying reward functions. It then employs Residual Q-Learning (RQL) to align the policy with human preferences using this residual reward function. Extensive evaluations on simulated and real-world tasks demonstrate that MEReQ achieves sample-efficient policy alignment from human intervention.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.21302v1cs.AI공통 태그 Imitation Learning, Q-Learning

전문가 행동 사전 강화학습

Expert Behavior Prior Reinforcement Learning

행동 사전 강화학습(BPRL)은 오프라인 시연에서 유도된 정책 사전을 활용하여 온라인 강화학습(RL)의 샘플 효율성을 개선하는 유망한 패러다임으로 부상했다. 그러나 기존 BPRL 방법 대부분은 정적 오프라인 데이터셋에 의존하며, 이는 종종 낮은 데이터 다양성과 최적이 아닌 궤적 품질 문제를 겪는다. 이러한 의존은 정책 사전의 효과를 제한하여 온라인 학습 중 정책 활용과 안정성을 모두 저해한다. 결과적으로 에이전트는 비효율적인 탐험과 불안정한 학습 역학에 취약해진다. 이러한 한계를 해결하기 위해, 우리는 기존 오프라인 사전학습 방법에서 벗어나 전문가 행동 사전(EBP) 알고리즘을 제안한다. 구체적으로, 온라인 리플레이 버퍼로부터 직접 전문가 정책 사전을 생성하는 방법을 학습하는 Q-유도 조건부 변분 오토인코더(Q-CVAE)를 도입한다. 이를 통해 사전 수집된 전문가 궤적에 의존하지 않고도 정책 업데이트를 안내하는 고가치 행동을 생성할 수 있다. 정책 활용을 더욱 향상시키기 위해, 생성적 지원 집합에서 전문가 행동을 선택하는 전문가 정책 안내(EPG) 메커니즘을 제안하고, Q-유도와 전문가 감독을 조화시켜 안정적이고 일관된 정책 개선을 촉진하는 정책 그래디언트 보정(PGC) 모듈을 통합한다. 로봇 제어(Gym, PyBullet) 및 산업 제어(DMControl) 벤치마크에서 수행한 광범위한 실험은 EBP가 최신 온라인 RL 알고리즘을 크게 능가하며, 더 높은 샘플 효율성과 더 안정적인 수렴을 달성함을 보여준다.

arXiv:2610.03391v2cs.CV공통 태그 Imitation Learning

월드 액션 모델을 위한 비디오 기반 네이티브 액션 사전확률 학습

Native Action-Prior Learning from Videos for World Action Models

월드 액션 모델(World action models)은 미래의 시각적 역역학과 로봇 액션 예측을 통합하지만, 액션 레이블이 지정된 로봇 궤적이 필요하다는 점에서 확장성에 한계가 있습니다. 관찰 전용(observation-only) 비디오는 상호작용 역학에 대한 풍부한 정보를 담고 있지만, 기존 접근법들은 대개 이를 사후에 제어용으로 조정해야 하는 시각적 표현을 사전학습(pre-training)하는 데 사용하거나, 추후 로봇 명령으로 그라운딩되는 잠재 액션(latent actions)을 추론하는 데 활용하는 데 그칩니다. 본 연구에서는 간접적인 표현-제어 간 전이나 별도의 잠재 액션 모델 없이 관찰 전용 비디오로부터 액션 정책을 직접 사전학습하는 네이티브 액션 사전확률 학습(native action-prior learning)을 도입한 NAVA-WAM을 제시합니다. 우리의 학습(training)은 2단계로 구성됩니다. 첫째, 관찰 전용 비디오를 통해 사전학습을 진행하며, 시각적 전이에 대한 미래 비디오 플로우 매칭(flow-matching) 감독 신호가 전이 구조화된 결합 어텐션을 통해 전파되어 Action-DiT를 최적화하고 액션 관련 사전확률을 학습합니다. 둘째, 액션 레이블이 지정된 시연 데이터를 사용하여 결합 비디오-액션 플로우 매칭을 통해 로봇 제어를 위한 Action-DiT 사후학습(post-training)을 수행하며, 이때 비대칭 어텐션이 시각 브랜치를 반복적인 액션 노이즈 제거 과정과 분리하여 효율적인 액션 전용 추론(inference)을 가능하게 합니다. 광범위한 실험 결과, NAVA-WAM은 분포 내(in-distribution) 및 분포 외(out-of-distribution) 설정 모두에서 기존 접근 방식을 일관되게 능가하는 동시에 뛰어난 액션 레이블 효율성과 효과적인 실제 로봇 일반화 성능을 입증했습니다. 이러한 결과는 네이티브 액션 사전확률 학습이 관찰 전용 비디오로부터 액션 정책을 직접 사전학습하는 효과적인 접근법임을 입증하며, 액션 레이블 기반 로봇 데이터를 뛰어넘는 확장 가능한 경로를 제공합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.