Do Large Language Models Mirror Cognitive Language Processing?
원문 초록
Large Language Models (LLMs) have demonstrated remarkable abilities in text comprehension and logical reasoning, indicating that the text representations learned by LLMs can facilitate their language processing capabilities. In neuroscience, brain cognitive processing signals are typically utilized to study human language processing. Therefore, it is natural to ask how well the text embeddings from LLMs align with the brain cognitive processing signals, and how training strategies affect the LLM-brain alignment? In this paper, we employ Representational Similarity Analysis (RSA) to measure the alignment between 23 mainstream LLMs and fMRI signals of the brain to evaluate how effectively LLMs simulate cognitive language processing. We empirically investigate the impact of various factors (e.g., pre-training data size, model scaling, alignment training, and prompts) on such LLM-brain alignment. Experimental results indicate that pre-training data size and model scaling are positively correlated with LLM-brain similarity, and alignment training can significantly improve LLM-brain similarity. Explicit prompts contribute to the consistency of LLMs with brain cognitive language processing, while nonsensical noisy prompts may attenuate such alignment. Additionally, the performance of a wide range of LLM evaluations (e.g., MMLU, Chatbot Arena) is highly correlated with the LLM-brain similarity.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Decentralized Arena: Towards Democratic and Scalable Automatic Evaluation of Language Models
Interleaved Reasoning for Large Language Models via Reinforcement Learning
긴 사고의 연쇄(CoT)는 대형 언어 모델(LLM)의 추론 능력을 크게 향상시킵니다. 그러나 광범위한 추론 과정은 비효율성을 초래하고 최초 토큰 생성 시간(TTFT)을 증가시킵니다. 본 논문에서는 강화학습(RL)을 활용하여 다중 홉 질문에 대해 사고와 답변을 교차 수행하도록 추론 LLM을 유도하는 새로운 학습 패러다임을 제안합니다. 모델이 본질적으로 교차 추론(interleaved reasoning) 능력을 보유하고 있음을 관찰하였으며, RL을 통해 이를 더욱 강화할 수 있음을 확인하였습니다. 우리는 올바른 중간 단계에 대해 보상을 부여하는 간단하면서도 효과적인 규칙 기반 보상 함수를 도입하여, 교차 추론 중 생성되는 중간 신호를 활용해 정책 모델이 올바른 추론 경로를 따르도록 유도합니다. 다섯 가지 다양한 데이터셋과 세 가지 RL 알고리즘(PPO, GRPO, REINFORCE++)에 걸친 광범위한 실험 결과, 외부 도구 없이도 기존의 사고-답변 방식 대비 일관된 성능 향상을 보였습니다. 특히, 본 방법은 평균적으로 TTFT를 80% 이상 단축시키고 Pass@1 정확도를 최대 19.3%까지 향상시켰습니다. 더불어, 질문 응답 및 논리 추론 데이터셋만으로 학습된 본 기법은 MATH, GPQA, MMLU와 같은 복잡한 추론 데이터셋에 대해서도 강력한 일반화 능력을 나타냈습니다. 추가로, 조건부 보상 모델링에 관한 여러 유의미한 통찰을 제공하는 심층 분석을 수행하였습니다.
LogiQA 2.0—An Improved Dataset for Logical Reasoning in Natural Language Understanding
Step-wise Policy for Rare-tool Knowledge (SPaRK): Offline RL that Drives Diverse Tool Use in LLMs
The Delta Learning Hypothesis: Preference Tuning on Weak Data can Yield Strong Gains
언어 모델의 성능 향상은 종종 학습에 사용하는 데이터의 품질 개선에 의해 이루어지며, 강력한 감독 신호가 부족할 때에는 한계가 있을 수 있습니다. 본 연구에서는 개별적으로는 약한 데이터 포인트로 구성된 쌍으로 된 선호도 데이터가 각 데이터 포인트의 강도를 넘어서는 성능 향상을 가능하게 함을 보여줍니다. 우리는 이 현상을 설명하기 위해 델타 학습 가설(delta learning hypothesis)을 제시하는데, 이는 약한 데이터에 대한 감독 미세조정이 오히려 성능을 저해할 때에도, 데이터 포인트 간 상대적 품질 차이(delta)가 선호도 튜닝을 통한 학습을 촉진하기에 충분하다는 가정입니다. 본 가설은 통제된 실험과 대규모 실험에서 검증되었으며, 여기서 우리는 8B 모델을 소규모 3B 모델의 응답과 더 작은 1.5B 모델의 출력을 쌍으로 하여 의미 있는 델타를 생성한 선호도 데이터로 후학습(post-training)하였습니다. 특히, 표준 11개 벤치마크 평가 세트(MATH, MMLU 등)에서 본 간단한 방법은 동일한 기반 모델에서 튜닝된 최첨단 공개 모델인 Tulu 3의 성능과 맞먹으며, Tulu 3는 훨씬 강력한 감독자(e.g., GPT-4o)를 활용합니다. 따라서 델타 학습은 최첨단 후학습을 위한 더 간단하고 저렴한 공개 레시피를 가능하게 합니다. 델타 학습을 더 잘 이해하기 위해, 우리는 로지스틱 회귀(logistic regression)에서 두 약한 교사 모델 간의 성능 격차가 더 강한 학생 모델 개선에 유용한 신호임을 증명하였습니다. 종합적으로, 본 연구는 일반적으로 약하다고 여겨질 수 있는 쌍으로 된 데이터로부터도 모델이 놀라울 정도로 잘 학습할 수 있음을 보여줍니다.
Growing Transformers: Modular Composition and Layer-wise Expansion on a Frozen Substrate
토론
이 논문과 연결된 포럼 글이 아직 없습니다.