인간 뇌 조직화 분석을 언어 모델로 전이하기
Transferring an analysis of human brain organization to language models
한국어 초록
인간의 대뇌 피질 발달 과정에서 기능 체계는 점점 더 분화된다. 본 연구는 언어 모델의 추론 능력 향상이 이에 상응하는 영역적 재조직화를 수반하는지 질문하였다. 피질 조직화를 특성화하는 데 사용되는 확산 맵 임베딩을 세 계열의 대응되는 기본 모델과 추론 학습 모델에 적용한 결과, 기울기 프로파일은 대체로 보존되었으며 연속된 층 구간 내에서 국소적 변화가 나타났다. 이러한 구간의 가중치를 지시 튜닝된 호스트 모델에 접목하자 평균적으로 수학적 추론이 향상되었고, 향상 폭은 영역 중첩이 클수록 커졌으며, 다른 위치에서 접목한 경우보다 이전에 해결한 문제를 더 많이 유지하였다. 학습 전반에 걸쳐 해당 구간은 성능이 초기에 상승하는 동안 점진적으로 형성되었으며, 중간 단계에서 접목한 가중치도 도움이 되었다. 접목은 대부분의 호스트를 부분적으로 기증자 모델의 행동 쪽으로 이동시켰고 때로는 기증자가 풀지 못한 문제에서도 성능을 향상시켰으며, 동일한 분석으로 의료 모델에서도 전이 가능한 구간을 찾아냈다. 종합하면, 이러한 결과는 호스트의 기존 수학적 능력에 대한 간섭이 적으면서 가중치가 추론을 향상시키는 추론 관련 영역을 규명한다.
원문 초록
During human cortical development, functional systems become increasingly differentiated. We asked whether improved reasoning in language models involves a comparable regional reorganization. Applying diffusion-map embedding, used to characterize cortical organization, to matched base and reasoning-trained models from three families, we found broadly preserved gradient profiles with localized changes within a contiguous layer span. Grafting weights from these spans into instruction-tuned hosts improved mathematical reasoning on average, with gains rising with region overlap, while retaining more previously solved problems than grafts elsewhere. Across training, the span formed gradually during the early rise in performance, and grafts from intermediate stages helped. Grafts shifted most hosts partly towards their donors' behaviour and sometimes improved on problems the donors failed; the same analysis located a transferable span in a medical model. Together, these findings identify a reasoning-related region whose weights improve reasoning with low interference in the host's existing mathematical competence.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.24626v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.