소프트 타깃 어텐션 프로빙을 통한 대규모 언어 모델의 생성 전 환각 탐지
Pre-Generation Hallucination Detection in Large Language Models via Soft-Target Attention Probing
대규모 언어 모델(LLM)의 생성 전 환각(hallucination) 탐지를 단일 출력 이진 분류가 아닌 위험 추정 문제로 공식화하고, 확률적 샘플링 답변의 경험적 오류율을 소프트 타깃 지도로 쓰며 어텐션 프로빙으로 프롬프트 표현을 선택 집계한다. 세 개 질의응답 벤치마크와 다섯 모델에서 단답형 과제는 어텐션 프로빙이 선형 프로빙보다 우수하고, 소프트 타깃 지도가 이진 레이블보다 탐지 품질을 일관되게 높인다.