안전한 로봇 동작 테스트 및 실패 복구를 위한 개입적 인과 회로
Interventional Causal Circuits for Safe Robot Action Testing and Failure Recovery
로봇 동작을 위한 안전한 물리 AI는 성공할 가능성이 높을 뿐만 아니라 실행 전에 안전성이 검증되어야 한다. 그러나 실제로는 동작 매개변수에 대한 공식적 테스트가 계산 비용이 크며, 그 비용은 동작 공간의 차원에 따라 불리하게 증가한다. 제안된 동작이 테스터에 의해 거부되면, 단순한 대응은 합격하는 후보를 찾을 때까지 무작위로 재샘플링하는 것이다. 이는 낭비적이고 정보가 없으며 수렴을 제공하지 않는다. 우리는 거부가 대신 인과 진단을 촉발해야 한다고 주장한다. 즉, 어떤 동작 매개변수가 실패를 일으켰는지, 그리고 개입적(interventional) 확률 분포 하에서 테스트 통과 확률을 최대화하는 교정 값이 무엇인지를 원칙적으로 식별하는 것이다. 우리는 Joint Probability Tree(JPT)와 Marginal-Deterministic Variable Tree에서 파생된 Causal Circuit을 결합하는 폐루프 프레임워크를 제안하며, 재학습이나 추가 데이터 수집 없이 정확한 다항 시간 계산을 가능하게 한다. 이 프레임워크는 로봇이 작동을 시작하기 전에 모든 개입적 쿼리의 계산 가능성(tractability)을 검증하며, 지원 범위를 벗어난(out-of-support) 후보는 자동으로 감지되어 교정에서 제외된다. ROS2 시뮬레이션 환경에서 실험을 수행했으며, 프레임워크는 분포 품질에 따른 상보적 역할을 보여준다. 고품질 JPT 하에서 Causal Circuit은 실패 시도를 10.3% 줄였고, 저하된 JPT 하에서는 총 실패 시도를 37% 줄였다. 거부된 모든 계획은 주요 원인 변수, 관측된 값, 권장 교정 영역을 명시하는 구조화되고 해석 가능한 인과 보고서를 생성하며, 별도로 학습된 실패 모델 없이 운영자 감독과 자율 복구를 지원한다.