arXiv:2611.20019v1 cs.LG

D'BEAST: 기록된 실패 경험으로 자율주행 에이전트의 결정을 설명하기

D'BEAST: Logged Bad Experiences as Explanation for Autonomous Driving Agents

Ahmad Alfan Alfian Irfan, Nur Ahmad Khatim, Mansur Arief

제출 2026-11-17

한국어 초록

강화학습 에이전트는 실수에서 배우지만, 어떤 경험이 특정 결정에 영향을 줬는지 추적하기는 어렵다. 본 연구는 테이블 기반 에이전트의 결정을 잘못된 경험으로 설명할 수 있는지 조사한다. 여기서 잘못된 경험은 안전 또는 과제 관련 사건과 연결된 학습 전이다. 같은 초기 Q 테이블에서 고정된 학습 로그를 세 가지 조건으로 재현했다. FULL은 모든 갱신을 유지하고, SKIP은 잘못된 경험에 해당하는 갱신을 생략하며, NEUTRALIZE는 이 갱신을 수행하되 사건에 따른 페널티를 제거한다. 여섯 가지 고전적 마르코프 의사결정 과정에서 방법을 예시하고 CARLA의 폐루프 주행에서 평가했다. 전체 주행 과제에서 FULL은 테스트 시작점 40개 중 33개에서 목표에 도달했으나, SKIP과 NEUTRALIZE는 한 곳에서도 도달하지 못했다. 이는 잘못된 경험에 의사결정과 관련된 정보가 담겨 있음을 보여 준다. 개별 결정을 살펴보기 위해 SKIP 또는 NEUTRALIZE가 실패하기 직전의 결정 47건을 분석했다. 소수의 잘못된 경험을 제거하거나 사건 페널티를 없애자, 47건 중 46건에서 학습한 에이전트가 실패한 정책과 같은 행동을 선택했다. 제거하거나 페널티를 없앤 경험의 수는 중앙값이 한 건이었다. 이 에이전트의 결정은 잘못된 경험으로 설명할 수 있다는 점을 결과가 보여 준다.

원문 초록

Reinforcement learning agents learn from mistakes, yet their decisions can be difficult to trace back to those experiences. We investigate whether a tabular agent's decisions can be explained by its bad experiences, defined as the training transitions associated with safety or task events. A fixed training log is replayed from the same initial Q-table under three conditions. FULL retains all updates, SKIP omits bad-experience updates, and NEUTRALIZE retains those updates without their event penalties. We illustrate the method on six classic Markov decision processes and evaluate it in closed-loop driving in CARLA. On the full driving task, FULL reached the goal from 33 of 40 test starts, whereas SKIP and NEUTRALIZE reached it from none, indicating that the bad experiences carry decision-relevant information. At the local level, for 47 decisions shortly before a failure of SKIP or NEUTRALIZE, removing or neutralizing a small group of bad experiences, with a median size of one, caused the trained agent to select the failing policy's action in 46 cases. For this agent, the results indicate that its decisions can be explained by its bad experiences.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.20019v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.