양보할 시점 파악하기: 텍스트 기반 체화된 에이전트에서 사용자 수정에 대한 근거 기반 중재
Knowing When to Yield: Grounded Arbitration of User Corrections in Text-Based Embodied Agents
사람의 수정이 틀렸을 가능성이 있을 때 체화된 에이전트(embodied agent)는 어떻게 대응해야 하는가? 본 연구에서는 근거 기반 수정 중재(grounded correction arbitration)를 수락, 거부, 환경 조사, 그리고 화자에게 재질문하는 것 사이의 선택으로 공식화한다. GAVA는 관측 범위 제한 증거, 유효 탐침(legal probes), 1단계 기대 손실(one-step expected-loss) 규칙을 통해 이러한 인터페이스를 구현한다. 텍스트 전용 ALFWorld에서 162개 체크포인트를 통해 참과 거짓이 쌍을 이루는 972개의 개입이 생성된다. 완전한 국소 조사를 수행할 경우 GAVA와 상시 검증(always verify) 방식 모두 100%의 수정 정확도를 달성하여, 비교 우위보다는 증거 계약(evidence contract)을 확립함을 보여준다. 동일 에피소드 실행에서 GAVA는 상시 검증 방식 대비 상호작용 비용을 절감하지만, 완벽한 화자 조건에서는 비용 임계값과 대등한 수준을 보인다. 학습(training) 전용 탐색적 객체 위치 사전확률(prior)은 균등(uniform) GAVA 대비 340개의 미확인 시나리오에서 상호작용 및 선언된 결합 비용을 각각 0.490과 0.420 낮춘다. 정책, 비용, 베이스라인, 다중성 계획을 동결(freezing)한 후, 308개 시나리오를 다루는 중복되지 않는 77개의 기학습 체크포인트에서도 이득이 재현되어 각각 0.595와 0.517을 기록했으며, 두 95% 체크포인트-부트스트랩 신뢰구간 모두 0을 배제한다. 또한 결합 비용은 동일 사전확률 고정 정책 대비 향상되는 반면, 일치 보정된 무정보가치(calibrated no-VOI) 비교는 결론을 내리지 못한 채로 유지된다. 시맨틱 GAVA는 각 집단에서 4건의 사실적 오류를 범하여 98.8% 및 98.7%의 정확도에 해당하며, 모든 방법이 모든 과제를 완수한다. 결과는 선언된 비용 하에서 의미론적 사전확률을 활용한 선택적 정보 수집을 뒷받침하지만, 명확화 질의 대비 환경적 정보 가치(value of information)의 일반적인 우위를 입증하지는 않는다. 본 연구는 정규화된 주장, 완전한 기호적 관측, 통제된 화자를 사용하며, 인간 참가자, 시각적 입력, 물리적 로봇은 평가하지 않는다.