PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.15843v1cs.CL

신경망 모델과 인간 뇌에서의 음소 정체성과 위치의 결합

Binding Phoneme Identity to Position in Neural Models and the Human Brain

인지과학과 신경 계산 분야의 근본적인 난제 중 하나는 결합 문제(binding problem)이다. 조합적 일반화(compositional generalization)는 표상을 역할(role, 예: 순서 위치나 구문적 기능과 같은 표상의 구조적 슬롯)과 필러(filler, 예: 음소나 단어와 같이 슬롯을 차지하는 내용물)로 인수분해하여 달성할 수 있으며, 이 둘을 자유롭게 재조합함으로써 새로운 조합을 표현할 수 있다. 그러나 신경계가 역할-필러 결합을 어떻게 구현하는지는 여전히 알려져 있지 않다. 가장 단순한 사례 중 하나는 음소 시퀀싱으로, /gum/과 /mug/가 서로 다르게 표현되도록 음소 정체성(필러)이 위치(역할)에 결합되어야 한다. 자연어 처리(NLP) 분야에서 제안된 '양파 가설(onion hypothesis)'(Csordas et al., 2024)은 신경 집단 상태의 방향이 토큰 정체성을 부호화하고 그 크기가 위치를 부호화한다고 주장한다. 이 가설은 무작위 토큰 시퀀스를 대상으로 정립되었으며, 본 연구에서는 이를 자연어로 확장하여 신경망 모델과 인간의 뇌에서 검증한다. 먼저 표상 기하학 분석과 인과적 개입을 활용하여 영어 단어를 반복하도록 학습된 인코더-디코더 모델에서 이를 평가했다. 그 결과 크기만으로는 불완전함이 입증되었다. 위치는 크기와 함께 상태 방향의 체계적인 회전에 의해 부호화되며, 본 연구는 이러한 기제를 '나선 가설(spiral hypothesis)'로 공식화한다. 이어 짧은 문장을 듣는 20명의 참가자의 청각 피질에서 기록된 두개내 뇌파(intracranial recordings)를 분석했다. 상측두회(superior temporal gyrus) 전극 전반에서 연속된 음소 간의 집단 반응 변화는 위치가 진행됨에 따라 크기가 감소했으며, 그 방향은 자음군 내부 및 모음군 내부에서 정렬되었으나 두 부류 간에는 거의 직교하여 두 가설이 공유하는 크기 코딩을 뒷받침했다. 이러한 결과는 신경계가 음소 정체성을 위치에 결합하는 방식에 대한 기하학적 설명을 제공하며, 신경망 모델 가설이 인간 신경 계산에 대한 검증 가능한 예측을 어떻게 도출할 수 있는지를 보여준다.