Syntactic Structure Processing in the Brain while Listening
원문 초록
Syntactic parsing is the task of assigning a syntactic structure to a sentence. There are two popular syntactic parsing methods: constituency and dependency parsing. Recent works have used syntactic embeddings based on constituency trees, incremental top-down parsing, and other word syntactic features for brain activity prediction given the text stimuli to study how the syntax structure is represented in the brain's language network. However, the effectiveness of dependency parse trees or the relative predictive power of the various syntax parsers across brain areas, especially for the listening task, is yet unexplored. In this study, we investigate the predictive power of the brain encoding models in three settings: (i) individual performance of the constituency and dependency syntactic parsing based embedding methods, (ii) efficacy of these syntactic parsing based embedding methods when controlling for basic syntactic signals, (iii) relative effectiveness of each of the syntactic embedding methods when controlling for the other. Further, we explore the relative importance of syntactic information (from these syntactic embedding methods) versus semantic information using BERT embeddings. We find that constituency parsers help explain activations in the temporal lobe and middle-frontal gyrus, while dependency parsers better encode syntactic structure in the angular gyrus and posterior cingulate cortex. Although semantic signals from BERT are more effective compared to any of the syntactic features or embedding methods, syntactic embedding methods explain additional variance for a few brain regions.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
The Grammar Does the Work: Functional vs. Lexical Dependency Length Minimization Across Universal Dependencies
CAIT: 아동-성인 상호작용을 위한 구문 분석 툴킷
CAIT: A Syntactic Parsing Toolkit for Child-Adult InTeractions
CHILDES는 언어 습득 연구에서 핵심적인 자료원이지만, 그 구문 구조를 분석하는 계산 도구는 여전히 부족하다. 최근 공개된 금표준 Universal Dependencies(UD) 주석이 포함된 UD-English-CHILDES 트리뱅크를 활용하여, 우리는 CHILDES에 특화된 최신 의존 구문 분석기를 학습시켰다. 이 분석기는 아동-성인 상호작용의 구문 패턴을 더 정확하게 포착하며, SpaCy와 Stanza를 포함한 널리 사용되는 기성 영어 분석기들을 능가한다. 분석기와 함께, 품사 태거(Part-of-Speech tagger)와 발화 수준 구문 구조 태거(utterance-level construction tagger)도 함께 공개하며, 이들이 결합되어 아동-성인 상호작용을 위한 오픈소스 구문 분석 툴킷인 CAIT를 구성한다. 상세한 오류 분석과 CHILDES의 발달 시기별 구문 구조 분포를 추적하는 사례 연구를 통해, 언어 습득에 관한 대규모의 재현 가능한 연구에 대한 이 툴킷의 실용적 유용성을 입증한다.
Dependency Parsing is More Parameter-Efficient with Normalization
Foundations and Evaluations in NLP
Sentinel: Decoding Context Utilization via Attention Probing for Efficient LLM Context Compression
Mitigating Object Hallucinations via Sentence-Level Early Intervention
토론
이 논문과 연결된 포럼 글이 아직 없습니다.