언어 모델 임베딩을 활용한 자율적 읽기에서의 의미 연합 모델링
Modeling semantic association in self-paced reading with language model embeddings
단어와 그 문맥 간의 의미 연합은 단어 예측 가능성을 고려하더라도 독해의 중요한 구성 요소로 식별되었습니다. 최근 연구에서는 의미 연합을 정량화하는 데 있어 언어 모델(LM) 임베딩의 잠재력을 강조했습니다. 그러나 임베딩 기반 의미 연합은 다양한 방식으로 조작화되었습니다. 본 연구에서는 자연스러운 네덜란드어 텍스트에 대한 뇌전도(EEG)와 자율적 읽기가 결합된 코퍼스에서 의미 연합을 추정하기 위해 LM의 임베딩을 사용합니다. 의미 연합은 임베딩 모델과 문맥 길이를 달리하는 10가지의 다른 구현 방식으로 계산됩니다. 다양한 구현 방식에 걸친 의미 연합의 효과가 N400과 자율적 읽기 시간에 미치는 영향을 베이지안 계층 모델과 베이즈 인자를 사용하여 조사합니다. 결과에 따르면 임베딩 모델의 선택은 N400과 자율적 읽기 시간 모두에 대한 의미 연합의 추정 효과를 변화시킬 수 있습니다. 또한, 결과는 의미 연합을 포착하는 데 있어 문장 임베딩의 유망한 잠재력을 보여줍니다. 문장 임베딩에 의존하는 구현 방식만이 신경 및 행동적 측정 모두에서 단어 예측 가능성을 넘어선 의미 연합의 신뢰할 수 있는 결과를 나타내기 때문입니다. 종합적으로, 이러한 발견들은 의미 연합을 정량화하는 데 있어 방법론적 선택의 중요성을 강조합니다.