arXiv:2002.11023

Semantic Relatedness for Keyword Disambiguation: Exploiting Different Embeddings

María G. Buey, Carlos Bobed, Jorge Gracia, Eduardo Mena

제출 2020-02-25

원문 초록

Understanding the meaning of words is crucial for many tasks that involve human-machine interaction. This has been tackled by research in Word Sense Disambiguation (WSD) in the Natural Language Processing (NLP) field. Recently, WSD and many other NLP tasks have taken advantage of embeddings-based representation of words, sentences, and documents. However, when it comes to WSD, most embeddings models suffer from ambiguity as they do not capture the different possible meanings of the words. Even when they do, the list of possible meanings for a word (sense inventory) has to be known in advance at training time to be included in the embeddings space. Unfortunately, there are situations in which such a sense inventory is not known in advance (e.g., an ontology selected at run-time), or it evolves with time and its status diverges from the one at training time. This hampers the use of embeddings models for WSD. Furthermore, traditional WSD techniques do not perform well in situations in which the available linguistic information is very scarce, such as the case of keyword-based queries. In this paper, we propose an approach to keyword disambiguation which grounds on a semantic relatedness between words and senses provided by an external inventory (ontology) that is not known at training time. Building on previous works, we present a semantic relatedness measure that uses word embeddings, and explore different disambiguation algorithms to also exploit both word and sentence representations. Experimental results show that this approach achieves results comparable with the state of the art when applied for WSD, without training for a particular domain.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.14100v1cs.CL공통 태그 Sentence, Word Embeddings

아랍어를 위한 양자 조합 자연어 처리: 회로 토폴로지의 문법, 형태론, 단어 의미

Quantum Compositional NLP for Arabic: Grammar, Morphology, and Word Sense in Circuit Topology

우리는 pregroup grammar 기반 양자 조합 자연어 처리(quantum compositional natural language processing, QNLP)를 아랍어에 최초로 적용한다. 아랍어는 형태론적으로 풍부하고 자유 어순(free-word-order) 언어로, 그 구조적 복잡성이 양자 회로에서의 의미 조합 이론에 대한 독특하게 까다로운 시험대를 제공한다. 우리 시스템은 아랍어 문장을 문법적 구조를 반영하는 토폴로지의 양자 회로로 변환한다. 주어, 동사, 목적어는 양자 게이트가 되며, 이들 사이의 타입 의존성(pregroup grammar)이 해당 게이트들이 어떻게 연결되는지를 결정한다. 우리는 어순, 형태론적 시제, 동사 의미 모호성 해소를 아우르는 세 가지 통제 실험을 수행하고, AraVec(아랍어 단어 임베딩) 및 AraBERT(사전학습된 아랍어 트랜스포머)를 포함한 고전적 베이스라인과 양자 회로 방법을 비교한다.

arXiv:2605.17482v3cs.CL공통 태그 Word Sense Disambiguation, Word Embeddings

RSD: 언어 모델 은닉 상태 감사를 위한 이동 국소 삼각 차트

RSD: Moving Local Triangular Charts for Auditing Language-Model Hidden States

우리는 언어 모델 은닉 상태에 대한 이동 국소 삼각 차트 감사(audit)로서 관계적 의미 분해(Relational Semantic Decomposition, RSD)를 연구한다. 하나의 목표 단어가 반복 등장할 때, RSD는 층 또는 토큰 시간 $t$에서 공유된 세 앵커 멤버십 차트 $S_t$를 적합한다. 은닉 상태 채널은 $X_t\approx S_tC_t$를 사용한다; 불변 판독값(readout) $M_t=S_tS_t^\top$은 유도된 등장 공-멤버십 관계이며, $R_t=X_t-S_tC_t$는 적합된 루트 차트가 차트 밖에 남기는 것을 기록한다. 더 넓은 공동 감사(joint audit)는 어텐션에서 유도된 등장 관계와 같은 관계 데이터 $A_t\approx S_tB_tS_t^\top$에 동일한 멤버십 차트를 재사용한다. 현재 GPT-2 증거는 Word-in-Context(WiC) 레이블을 외부 동의어 대 이의어 참조 관계로 사용하는 $X$-채널 은닉 상태 감사이다. 전체 WiC train에서 루트 차트는 자격을 갖춘 53개 목표 단어 중 16개를 통과한다; 이는 GPT-2 과제 정확도가 아니라 감사 커버리지(audit coverage)이다. 토큰 시간 및 쌍(pair) 수준 진단은 주요 영역(regime)을 보여준다: \texttt{make}와 \texttt{break}는 목표 상태에서 정렬(align)되고, \texttt{drive}와 \texttt{stay}는 소규모 탐색적 사례에서 오른쪽 문맥 이후 개선되며, \texttt{play}는 최종 동의어 쌍이 더 가깝지 않고 잔차(residual) 불일치가 더 큰 국소화된 루트 차트 실패로 남아 있다. 그 결과 주장은 진단적이다: RSD는 의미(sense) 관계가 루트 공-멤버십에서 어디에 가시적인지, 그리고 어떤 실패가 잔차 분기 후보 또는 어텐션 채널 의무(attention-channel obligations)가 되는지 보고한다.

arXiv:2604.18109v2cs.CL공통 태그 Sentence, Word Embeddings

FLiP: 멀티모달 다국어 문장 임베딩의 이해 및 해석을 향하여

FLiP: Towards understanding and interpreting multimodal multilingual sentence embeddings

본 논문은 사전학습된 문장 임베딩 공간을 이해하기 위한 인수분해 선형 투영(FLiP) 모델을 제안합니다. 우리는 다국어(LaBSE), 멀티모달(SONAR), API 기반(Gemini) 문장 임베딩 공간에서 여러 고자원 및 중자원 언어의 어휘적 내용을 복원하도록 FLiP 모델을 학습시킵니다. 우리는 FLiP가 임베딩에서 75% 이상의 어휘적 내용을 재현할 수 있음을 보여주며, 이는 기존의 인수분해되지 않은 기준 모델들을 현저히 능가합니다. 이를 진단 도구로 활용하여 선택된 문장 인코더들 간의 모달리티 및 언어 편향을 규명하고, 기존의 다운스트림 평가 작업에 의존하지 않고 실무자들에게 인코더에 대한 내재적 통찰을 제공합니다. 우리의 구현체는 https://github.com/BUTSpeechFIT/FLiP에서 공개되어 있습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.