PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.13607v4cs.AI

패턴 매칭으로서의 추론: 인간과 대규모 언어 모델(LLM)의 일상 추론에 나타난 공유 메커니즘

Reasoning as Pattern Matching: Shared Mechanisms in Human and LLM Everyday Reasoning

대규모 언어 모델(LLM)이 일반화에 실패하거나 추론에서 내용에 민감한 오류를 범할 때, 이는 흔히 LLM이 진정으로 추론하는 것이 아니라 일종의 패턴 매칭을 수행하고 있다는 증거로 받아들여집니다. 여기에는 인간의 추론이 원리적이고 내용 불변적인 세계 모델(world model)에 의존하기 때문에 인간의 행동은 동일한 유형의 실패를 보이지 않는다는 함의가 깔려 있습니다. 본 연구에서는 다양한 일상 상황에 대한 상식적 추론 능력을 바탕으로 인간과 LLM을 평가함으로써 이러한 가정을 검증합니다. 연구 결과, 46개의 LLM과 두 개의 인간 참가자 집단 전반에서 수렴하는 추론 패턴이 밝혀졌습니다. 이어 본 연구는 인간과 유사한 반응을 생성하는 데 있어 내용 불변적 및 내용 민감적 모델 뉴런의 역할을 규명함으로써, 이러한 행동적 수렴이 LLM이 내용 불변적 세계 모델을 획득했기 때문인지, 아니면 일련의 패턴 매칭 휴리스틱을 획득했기 때문인지를 묻습니다. 분석 결과, LLM은 내용 불변적 표상과 내용 민감적 표상을 모두 인코딩하지만, 모델을 인간과 일치시키는 데 인과적으로 기여하는 것은 내용 민감적 메커니즘인 것으로 나타났습니다. 종합하면, 본 연구 결과는 인간과 LLM의 일상적인 인과 추론이 패턴 매칭을 크게 활용하고 있음을 시사합니다.