PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.29545v1cs.CL

AURORA: 대규모 언어 모델의 강건한 환각 탐지를 위한 비대칭성 및 업데이트 유도 회전

AURORA: Asymmetry and Update-Induced Rotation for Robust Hallucination Detection in Large Language Models

대규모 언어 모델(LLM)은 다양한 자연어 처리(NLP) 과제에서 놀라운 성능을 보여주었다. 그러나 사실과 다르거나 불충실한 출력, 즉 환각(hallucination)을 생성하는 경향은 고위험 응용 분야에서의 배포에 심각한 장애물이 된다. 최근 환각 탐지 방법들이 고무적인 진전을 이루었음에도 불구하고, 이들 방법은 대체로 비용이 많이 드는 출력 수준의 일관성 검사나 데이터셋별 얕은 패턴만을 포착하는 정적 은닉 상태 프로브에 의존하여, 교차 데이터셋 평가에서 성능이 크게 저하된다. 본 연구에서는 정적 표현 대신 LLM의 가중치-그래디언트 동역학에 초점을 맞춘 새로운 환각 탐지 프레임워크 AURORA를 제안한다. 핵심 통찰은 환각된 답변과 충실한 답변이 모델 파라미터에 질적으로 상이한 그래디언트 업데이트 패턴을 유발한다는 것이다. 구체적으로, 환각 샘플은 비대칭적이고 구조적으로 정렬되지 않은 그래디언트를 유발하며, 이는 두 가지 상보적 특징을 통해 포착할 수 있다: (1) 가중치 행렬과 그래디언트 업데이트 방향 간의 코사인 유사도 분포의 왜도(skewness), 그리고 (2) SVD를 통해 그래디언트 업데이트가 가중치 행렬의 특이벡터 기저를 얼마나 재정향시키는지를 정량화하는 회전 비율(rotation ratio)이다. AURORA는 네 가지 모델 패밀리와 네 가지 벤치마크 데이터셋에서 우수한 환각 탐지 성능을 달성한다. 추가 분석을 통해 본 방법이 모델 크기에 따라 효과적으로 스케일링되며, 수학적 추론 및 비전-언어(vision-language) 시나리오를 포함한 도메인 외 과제로도 전이됨을 확인한다.