Cross-lingual Word Sense Disambiguation using mBERT Embeddings with Syntactic Dependencies
원문 초록
Cross-lingual word sense disambiguation (WSD) tackles the challenge of disambiguating ambiguous words across languages given context. The pre-trained BERT embedding model has been proven to be effective in extracting contextual information of words, and have been incorporated as features into many state-of-the-art WSD systems. In order to investigate how syntactic information can be added into the BERT embeddings to result in both semantics- and syntax-incorporated word embeddings, this project proposes the concatenated embeddings by producing dependency parse tress and encoding the relative relationships of words into the input embeddings. Two methods are also proposed to reduce the size of the concatenated embeddings. The experimental results show that the high dimensionality of the syntax-incorporated embeddings constitute an obstacle for the classification task, which needs to be further addressed in future studies.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
PejorativITy: Disambiguating Pejorative Epithets to Improve Misogyny Detection in Italian Tweets
RSD: 언어 모델 은닉 상태 감사를 위한 이동 국소 삼각 차트
RSD: Moving Local Triangular Charts for Auditing Language-Model Hidden States
우리는 언어 모델 은닉 상태에 대한 이동 국소 삼각 차트 감사(audit)로서 관계적 의미 분해(Relational Semantic Decomposition, RSD)를 연구한다. 하나의 목표 단어가 반복 등장할 때, RSD는 층 또는 토큰 시간 $t$에서 공유된 세 앵커 멤버십 차트 $S_t$를 적합한다. 은닉 상태 채널은 $X_t\approx S_tC_t$를 사용한다; 불변 판독값(readout) $M_t=S_tS_t^\top$은 유도된 등장 공-멤버십 관계이며, $R_t=X_t-S_tC_t$는 적합된 루트 차트가 차트 밖에 남기는 것을 기록한다. 더 넓은 공동 감사(joint audit)는 어텐션에서 유도된 등장 관계와 같은 관계 데이터 $A_t\approx S_tB_tS_t^\top$에 동일한 멤버십 차트를 재사용한다. 현재 GPT-2 증거는 Word-in-Context(WiC) 레이블을 외부 동의어 대 이의어 참조 관계로 사용하는 $X$-채널 은닉 상태 감사이다. 전체 WiC train에서 루트 차트는 자격을 갖춘 53개 목표 단어 중 16개를 통과한다; 이는 GPT-2 과제 정확도가 아니라 감사 커버리지(audit coverage)이다. 토큰 시간 및 쌍(pair) 수준 진단은 주요 영역(regime)을 보여준다: \texttt{make}와 \texttt{break}는 목표 상태에서 정렬(align)되고, \texttt{drive}와 \texttt{stay}는 소규모 탐색적 사례에서 오른쪽 문맥 이후 개선되며, \texttt{play}는 최종 동의어 쌍이 더 가깝지 않고 잔차(residual) 불일치가 더 큰 국소화된 루트 차트 실패로 남아 있다. 그 결과 주장은 진단적이다: RSD는 의미(sense) 관계가 루트 공-멤버십에서 어디에 가시적인지, 그리고 어떤 실패가 잔차 분기 후보 또는 어텐션 채널 의무(attention-channel obligations)가 되는지 보고한다.
Astro-HEP-BERT: A bidirectional language model for studying the meanings of concepts in astrophysics and high energy physics
Enhancing Modern Supervised Word Sense Disambiguation Models by Semantic Lexical Resources
LLM 기반 추천 모델에서 고차 상호작용 인식 향상
Enhancing High-order Interaction Awareness in LLM-based Recommender Model
대규모 언어 모델(LLM)은 추천 태스크를 텍스트 생성 태스크로 변환함으로써 추천 분야에서 뛰어난 추론 능력을 입증해 왔습니다. 그러나 기존 접근 방식들은 사용자-아이템 간의 고차 상호작용을 무시하거나 비효율적으로 모델링합니다. 이를 위해 본 논문에서는 향상된 LLM 기반 추천기인 ELMRec을 제시합니다. 본 연구는 그래프 사전학습(pre-training) 없이도 추천을 위한 그래프 기반 상호작용에 대한 LLM의 해석 능력을 대폭 개선하기 위해 온단어 임베딩(whole-word embedding)을 강화합니다. 이러한 발견은 온단어 임베딩을 통해 풍부한 지식 그래프를 LLM 기반 추천 모델에 통합하려는 연구에 영감을 줄 수 있습니다. 또한 LLM이 최근의 상호작용보다 사용자의 초기 상호작용에 기반하여 아이템을 추천하는 경향이 있음을 발견하고, 이에 대한 재순위화(reranking) 솔루션을 제시합니다. 제안된 ELMRec은 직접 추천 및 순차적 추천 모두에서 최신(SOTA) 방법들보다 우수한 성능을 보입니다.
E2Vec: 전자책 시스템에서의 학생 행동 분석을 위한 시간 정보 기반 특징 임베딩
E2Vec: Feature Embedding with Temporal Information for Analyzing Student Actions in E-Book Systems
디지털 교과서(전자책) 시스템은 학생들의 교과서와의 상호작용을 EventStream 데이터라고 불리는 일련의 이벤트(event)로 기록합니다. 과거 연구자들은 EventStream에서 의미 있는 특징(feature)을 추출하여 성적 예측이나 학생 행동 모델링과 같은 다운스트림(downstream) 태스크의 입력으로 활용했습니다. 기존 연구는 조작 유형의 수나 접근 빈도와 같이 EventStream 로그에서 파생된 주로 통계 기반 특징을 사용하는 모델들을 평가했습니다. 이러한 특징들은 특정 통찰력을 제공하는 데 유용하지만, 학생 간의 학습 행동에 있는 세밀한 차이를 포착하는 시간 정보가 부족합니다. 본 연구는 단어 임베딩(word embedding) 기반의 새로운 특징 표현 방법인 E2Vec을 제안합니다. 제안된 방법은 각 학생에 대한 조작 로그와 시간 간격을 문자의 문자열 시퀀스(sequence)로 간주하여, 시간 정보를 통합한 학습 활동 특징의 학생 벡터를 생성합니다. 우리는 2년간의 컴퓨터 과학 강의에서 수집된 데이터셋(dataset)에 있는 305명의 학생 각각에 대해 임베딩 벡터를 생성하도록 fastText를 적용했습니다. 그 후, 위험군 탐지 태스크(task)에서 E2Vec의 효과를 조사하여 일반화 가능성과 성능에 대한 잠재력을 입증했습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.