PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2508.05880v3cs.CL

인간이라기엔 너무나 범주적인: LLM과 인간의 감정 개념

Too Categorical to be Human: Emotion Concepts in LLMs and Humans

인간의 감정을 이해하는 것은 사용자를 대면하는 AI 애플리케이션, 안전성 정렬(safety alignment), 그리고 인간 행동 시뮬레이션의 핵심입니다. 감정적 자극이 대규모 언어 모델(LLM)의 중대한 행동을 형성함에 따라, 모델이 내부적으로 감정 개념을 어떻게 표현하는지에 대한 관심이 커지고 있습니다. 그러나 이러한 표현에 대한 기계론적 설명은 인간과 직접 비교하기 어렵습니다. 인간의 감정 처리는 고도로 분산되어 있어 상응하는 신경 표현을 도출하지 않기 때문입니다. LLM이 인간과 유사한 방식으로 감정 개념을 내재화하는지 이해하기 위해, 본 논문에서는 외부적 행동 특성(behavioral signatures)을 활용하여 감정이라는 추상적 개념을 규정하는 방식인 '행동 표현(behavioral representations)'을 제안합니다. 감정 상황을 해석 가능한 평가 차원에 따라 표현할 수 있게 해주는 인지 평가 이론(cognitive appraisal theory)을 활용하여, 15개 감정 범주에 걸친 감정적 시나리오 벤치마크 데이터셋을 구축합니다. 이 벤치마크를 통해 LLM과 인간으로부터 감정 개념의 행동 표현을 도출하고, 이들의 구조적 유사성을 연구합니다. 연구 결과, LLM은 인간보다 감정 개념을 더 범주적이고, 동질적이며, 확정적으로 표현하여, 단일 감정 개념을 더 적은 내부 다양성으로 표현하고 서로 다른 감정 간의 거리를 더 멀리 배치한다는 점을 발견했습니다. LLM 표현의 범주적 구조는 서로 다른 태스크 프레이밍 및 인구통계학적 페르소나를 포함한 맥락적 변화에도 견고함을 유지했습니다. 다양한 학습 단계의 모델 체크포인트를 분석한 결과, 이러한 표현의 이산화된 특성은 중간 학습(mid-training) 단계 이후부터 나타나며 다양한 사후 학습(post-training) 전략에 영향을 받지 않는다는 점도 확인했습니다. 본 연구 결과를 통해 LLM이 감정 개념을 행동적으로 표현하는 방식의 핵심적 차이를 강조하며, 인간의 감정 경험에 내재된 주관성이 억제되어 있음을 보여줍니다.