PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.07156v2cs.LG

암묵적 바이어스의 해부: 신경망 학습에서의 정보 할당

The Anatomy of Implicit Bias: Information Allocation in Neural Network Training

암묵적 바이어스(implicit bias)는 일반적으로 최적화 과정이 특정 최종 해(solution)와 그 기하학적 구조를 선호하는 경향으로 설명된다. 이 관점은 모델이 최종적으로 수렴하는 지점을 설명하는 데 도움을 주지만, 학습 과정에서 이 바이어스가 어떻게 형성되는지에 대한 직접적인 설명은 부족하다. 본 논문은 학습 시점의 정보 할당(information allocation) 관점을 제안한다. 이 관점에서 최적화는 매개변수 경로, 좌표 채널, 샘플 영역에 걸쳐 오차 신호에 대한 쓰기 패턴을 형성한다. 본 논문은 관측 가능한 할당 진단 지표 집합을 구축한다. 이 진단 지표들에는 그래디언트 수요(gradient demand), 실제 업데이트 주입량, 지수 이동 평균(exponential moving averages)에 의해 유발되는 좌표 이득, 채널 수준 업데이트 비율, 샘플별 손실 분포가 포함된다. 학습 진행 상황과 내부 할당을 분리하기 위해, 본 논문은 붕괴-지속(collapse–persistence) 분석을 도입한다. 동일한 학습 손실 조건 하에서, 외부 손실 통계는 붕괴하지만 내부 할당 비율이 분리된 상태로 유지된다면, 해당 요인은 학습 신호의 내부 할당을 변경하는 것이다. 전반적으로, 본 논문은 암묵적 바이어스의 분석을 최종 해의 기하학적 구조에서 학습 시점의 신호 할당으로 확장한다. 핵심 주장은, 암묵적 바이어스가 최종 해에만 반영되는 것이 아니라, 학습 과정에서 어떤 매개변수 경로, 좌표 채널, 샘플 영역이 오차 신호를 먼저 그리고 더 강하게 수신하는지에도 반영된다는 것이다. 이 관점을 바탕으로, 본 논문은 다양한 학습 요인들을 통합된 정보 할당 진단 프레임워크에 배치한다. 이 프레임워크는 학습 시점 암묵적 바이어스에 대한 메커니즘 수준의 설명을 제공하며, 학습 진행과 신호 할당을 별도로 제어하는 미래의 최적화 방법을 위한 기반을 마련한다.

arXiv:2606.29545v1cs.CL

AURORA: 대규모 언어 모델의 강건한 환각 탐지를 위한 비대칭성 및 업데이트 유도 회전

AURORA: Asymmetry and Update-Induced Rotation for Robust Hallucination Detection in Large Language Models

대규모 언어 모델(LLM)은 다양한 자연어 처리(NLP) 과제에서 놀라운 성능을 보여주었다. 그러나 사실과 다르거나 불충실한 출력, 즉 환각(hallucination)을 생성하는 경향은 고위험 응용 분야에서의 배포에 심각한 장애물이 된다. 최근 환각 탐지 방법들이 고무적인 진전을 이루었음에도 불구하고, 이들 방법은 대체로 비용이 많이 드는 출력 수준의 일관성 검사나 데이터셋별 얕은 패턴만을 포착하는 정적 은닉 상태 프로브에 의존하여, 교차 데이터셋 평가에서 성능이 크게 저하된다. 본 연구에서는 정적 표현 대신 LLM의 가중치-그래디언트 동역학에 초점을 맞춘 새로운 환각 탐지 프레임워크 AURORA를 제안한다. 핵심 통찰은 환각된 답변과 충실한 답변이 모델 파라미터에 질적으로 상이한 그래디언트 업데이트 패턴을 유발한다는 것이다. 구체적으로, 환각 샘플은 비대칭적이고 구조적으로 정렬되지 않은 그래디언트를 유발하며, 이는 두 가지 상보적 특징을 통해 포착할 수 있다: (1) 가중치 행렬과 그래디언트 업데이트 방향 간의 코사인 유사도 분포의 왜도(skewness), 그리고 (2) SVD를 통해 그래디언트 업데이트가 가중치 행렬의 특이벡터 기저를 얼마나 재정향시키는지를 정량화하는 회전 비율(rotation ratio)이다. AURORA는 네 가지 모델 패밀리와 네 가지 벤치마크 데이터셋에서 우수한 환각 탐지 성능을 달성한다. 추가 분석을 통해 본 방법이 모델 크기에 따라 효과적으로 스케일링되며, 수학적 추론 및 비전-언어(vision-language) 시나리오를 포함한 도메인 외 과제로도 전이됨을 확인한다.