PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.31307v1cs.CL

데이터베이스 오류 시: 태스크 지향 대화에서 안전한 복구를 위한 LLM 대화 에이전트 프롬프팅

When the Database Fails: Prompting LLM Dialogue Agents for Safe Recovery in Task-Oriented Dialogue

태스크 지향 대화(TOD) 시스템에서 백엔드 데이터베이스 호출 실패 시 LLM 에이전트가 근거 없는 예약 정보를 환각(hallucination)하는 문제를 다루며, 재학습 없이 구조화된 DB 상태 조건부 프롬프트(Guided-Retry)만으로 MultiWOZ와 SGD 두 벤치마크에서 환각률을 각각 50%, 42% 감소시켰다. 그러나 특히 잘못된 도메인 검색 실패 상황에서는 모델에 따라 6~37%의 잔여 환각이 남아, 프롬프트 수준의 복구 전략만으로는 강건한 TOD 배포에 충분하지 않음을 6개 오픈-가중치 모델 패밀리(DeepSeek-R1, Gemma-2, Llama-3, Mistral, Phi-3, Qwen-2.5) 전반에 걸쳐 확인했다.