위험 유발 탐색: 행동을 보존하는 안전 제어
Risk-Triggered Search: Behavior-Preserving Safe Control
한국어 초록
사전학습된 시각 세계 모델은 현재 관측과 목표 관측으로부터 다단계 행동 계획을 생성하지만, 종단 근접성 목적 함수는 금지 구역 통과나 강체 충돌 미끄러짐을 막지 못한다. 순수한 시각 인터페이스는 해석적 동역학, 구조화된 상태, 명시적 충돌 기하를 갖추지 못할 수 있어, 행동 조건부 프로세스 위험을 내부적으로 예측해야 한다. 본 논문에서는 고정된(frozen) 결합 임베딩 예측 아키텍처(JEPA) 세계 모델을 위한 위험 유발 탐색(Risk-Triggered Search, RTS)을 제안한다. 관측을 공유하는 후보 계획들을 구별하지 못하는 정적 상태 특징에 의존하는 대신, RTS는 고정된 세계 모델에서 행동 조건부 미래 잠재 접두부를 전개하고 프로세스 위반 지도로 경량 위험 헤드를 학습시킨다. 안전한 공칭 행동을 보존하면서 선택적으로 개입하기 위해, RTS는 동일한 예측 접두부 위험 기준을 탐색 유발 게이트와 엄격한 실행 가능성 게이트로 모두 사용한다. 안전한 공칭 계획은 그대로 실행되고, 경보가 발생하면 실행 가능 집합 내에서 공칭 편차를 최소화하는 국소 교차 엔트로피 방법(CEM) 탐색이 유발된다. 등방성 유클리드 최소 수정이 장애물 방향 행동을 진폭이 0인 정체로 축소시키는 것을 막기 위해, 공칭 계획에서 유일한 영점을 유지하면서 접선 방향 진행을 보존하는 진폭 보존 지표 $d_{\mathrm{AP}}$를 도입한다. 통합된 게이팅과 이 유일 영점 조건 하에서, 안전 상태에서의 탐색을 생략해도 폐루프 궤적은 매 단계 동일 커널 탐색과 엄밀히 동일하다. 다섯 가지 과제에 걸친 프로세스 안전 벤치마크와 안전 도착률(SAR) 지표로 평가한 결과, RTS는 내비게이션과 관절형 제어에서 Direct 대비 SAR을 12.67--41.67 퍼센트포인트 향상시키고, Cube/PushT 경계 집단에서는 +2.08/+4.17 pp 향상시키며, 1,968개의 쌍 궤적 전반에서 매 단계 탐색과 100%의 행동 동일성을 유지하면서 제어기 시간을 17.71%--70.41% 줄인다.
원문 초록
Pre-trained visual world models generate multi-step action plans from current and goal observations, yet terminal-proximity objectives fail to prevent forbidden-zone traversal or rigid-body collision sliding. Purely visual interfaces may lack analytical dynamics, structured states, or explicit collision geometry, requiring internal prediction of action-conditioned process risk. We propose Risk-Triggered Search (RTS) for frozen Joint-Embedding Predictive Architecture (JEPA) world models. Rather than relying on static state features that cannot distinguish candidate plans sharing an observation, RTS unrolls action-conditioned future latent prefixes in the frozen world model and trains a lightweight risk head with process-violation supervision. To intervene selectively while preserving safe nominal behavior, RTS uses the same predicted prefix-risk criterion as both the search trigger gate and hard feasibility gate: safe nominal plans execute directly, whereas alarms trigger local Cross-Entropy Method (CEM) search to minimize nominal deviation within the feasible set. To prevent isotropic Euclidean minimal modification from shrinking obstacle-directed actions into zero-amplitude stalling, we introduce an amplitude-preserving metric $d_{\mathrm{AP}}$ that retains tangential progression while maintaining a unique zero at the nominal plan. Under unified gating and this unique-zero condition, bypassing safe-state search yields closed-loop trajectories strictly identical to every-step same-kernel search. Evaluated under a process-safety benchmark and Safe Arrival Rate (SAR) metric across five tasks, RTS improves SAR over Direct by 12.67--41.67 percentage points on navigation and articulated control and +2.08/+4.17 pp on Cube/PushT boundary cohorts, maintaining 100% action identity with every-step search while cutting controller time by 17.71%--70.41% across 1,968 paired trajectories.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.24409v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.