arXiv:2011.11773

Advancing Humor-Focused Sentiment Analysis through Improved Contextualized Embeddings and Model Architecture

Felipe Godoy

제출 2020-11-23

원문 초록

Humor is a natural and fundamental component of human interactions. When correctly applied, humor allows us to express thoughts and feelings conveniently and effectively, increasing interpersonal affection, likeability, and trust. However, understanding the use of humor is a computationally challenging task from the perspective of humor-aware language processing models. As language models become ubiquitous through virtual-assistants and IOT devices, the need to develop humor-aware models rises exponentially. To further improve the state-of-the-art capacity to perform this particular sentiment-analysis task we must explore models that incorporate contextualized and nonverbal elements in their design. Ideally, we seek architectures accepting non-verbal elements as additional embedded inputs to the model, alongside the original sentence-embedded input. This survey thus analyses the current state of research in techniques for improved contextualized embedding incorporating nonverbal information, as well as newly proposed deep architectures to improve context retention on top of popular word-embeddings methods.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.14100v1cs.CL공통 태그 Sentence, Word Embeddings

아랍어를 위한 양자 조합 자연어 처리: 회로 토폴로지의 문법, 형태론, 단어 의미

Quantum Compositional NLP for Arabic: Grammar, Morphology, and Word Sense in Circuit Topology

우리는 pregroup grammar 기반 양자 조합 자연어 처리(quantum compositional natural language processing, QNLP)를 아랍어에 최초로 적용한다. 아랍어는 형태론적으로 풍부하고 자유 어순(free-word-order) 언어로, 그 구조적 복잡성이 양자 회로에서의 의미 조합 이론에 대한 독특하게 까다로운 시험대를 제공한다. 우리 시스템은 아랍어 문장을 문법적 구조를 반영하는 토폴로지의 양자 회로로 변환한다. 주어, 동사, 목적어는 양자 게이트가 되며, 이들 사이의 타입 의존성(pregroup grammar)이 해당 게이트들이 어떻게 연결되는지를 결정한다. 우리는 어순, 형태론적 시제, 동사 의미 모호성 해소를 아우르는 세 가지 통제 실험을 수행하고, AraVec(아랍어 단어 임베딩) 및 AraBERT(사전학습된 아랍어 트랜스포머)를 포함한 고전적 베이스라인과 양자 회로 방법을 비교한다.

arXiv:2607.05679v1cs.CL공통 태그 Sentiment Analysis, Word Embeddings

RPAM: 다운스트림 출력에서 높은 예측 타당도를 가진 언어 모델 연관성 평가를 위한 원칙적 지표

RPAM: A Principled Metric for Evaluating Associations in Language Models with High Predictive Validity in Downstream Outputs

언어 모델(LM)은 고정관념과 같은 문제적 편향을 나타낸다. 이러한 편향을 효과적으로 분석하고 완화하려면 기저 연관성에 대한 정확하고 범용적인 평가 방법이 필요하다. 일부 기존 접근 방식은 생성된 텍스트의 연관성을 분석하는 다운스트림 지표에 초점을 맞춘다. 생성된 텍스트 내용은 LM마다 크게 달라질 수 있기 때문에, 이러한 지표들은 종종 특화된 평가 데이터셋을 필요로 하며, 이는 다운스트림 지표의 일반화를 제한한다. 이와 대조적으로, 업스트림 지표는 임베딩(embedding)이나 연속 확률이라는 근본적인 수준에서 LM을 검토함으로써 LM 전반에 걸쳐 원칙적인 연관성 분석을 가능하게 한다. 그러나 현재까지 생성형 LM을 위한 어떠한 업스트림 지표도 생성된 텍스트에서 측정된 연관성을 포함한 실제 연관성과의 강한 관계를 밝혀내지 못했다. 이러한 간극을 해소하기 위해, 우리는 생성형 LM을 위한 연관성 평가 지표인 상대 확률 연관성 지표(RPAM, Relative Probability Association Metric)를 제안한다. 언어 생성 품질과 목적이 서로 다른 세 가지 LM(Mistral-7B-Instruct, Mistral-7B, GPT-2)과 널리 연구된 평가 데이터셋(WEAT-WS, Bellezza, WS-353, SST2)에 대해, 우리는 업스트림 RPAM 측정값과 인간에게서 관찰된 암묵적·명시적 연관성 및 LM별 태스크로 다운스트림에서 측정된 편향 사이에서 강한 관계를 발견하였으며, 해당하는 경우 기존 최고 기록값을 능가하였다.

arXiv:2606.29068v1cs.CL공통 태그 Sentiment Analysis, Word Embeddings

심리적 감정 이론 전반에 걸친 텍스트 임베딩의 감정 단서 비교 연구

A Comparative Study on Affective Cues in Text Embeddings Across Psychological Emotion Theories

텍스트 인코더는 입력을 밀집 벡터로 효율적으로 압축하면서 의미를 보존하는 능력 덕분에 자연어 처리(NLP)에서 널리 활용되고 있다. 이러한 모델들은 감성 컴퓨팅(affective computing)에도 적용되어 감성 분석(sentiment analysis) 및 감정 인식 과제 해결에 기여해 왔다. 그러나 현대 텍스트 인코더가 생성하는 잠재 표현이 심리학적으로 잘 정의된 감정 이론을 어느 정도까지 포착하는지는 여전히 불분명하다. 본 연구에서는 최근 공개된 12개의 텍스트 인코더의 감정 표현 능력을 조사하기 위해, 이들이 생성한 임베딩을 입력 특징으로 사용하여 단어 수준 및 문장 수준 데이터를 대상으로 세 가지 확립된 감정 프레임워크에 걸쳐 회귀 및 분류(classification) 과제를 수행하였다. 또한 단어 수준 평가의 강건성을 높이기 위해 의미론적 데이터 누출 방지 기법을 적용하였다. 주요 연구 결과에 따르면, 최신 인스트럭션 인식 오픈 가중치(open-weight) 인코더의 잠재 다양체는 단어 수준 평가에서 독점 모델과 동등하거나 오히려 더 많은 양의 감정 정보를 포함하는 것으로 나타났다. 반면, 과제 튜닝 및 독점 인코더의 임베딩은 문장 수준 감정 분류에서 가장 높은 점수를 기록하였다. 더불어 잠재 표현과 그에 인코딩된 감정 단서에 대한 정성적 분석도 제공한다.

arXiv:2606.22478v1cs.CL공통 태그 Sentiment Analysis, Word Embeddings

ROMEVA: 로마 우르두어 언어 모델을 위한 기하학 보존 어휘 확장

ROMEVA: Geometry-Preserving Vocabulary Expansion for Roman Urdu Language Models

mBERT와 같은 다국어 언어 모델은 저자원 자연어 처리(NLP)에 널리 사용되지만, 로마 우르두어와 같이 형태론적으로 불일치하는 언어에 대한 적응은 아직 충분히 탐구되지 않았다. 로마 우르두어의 철자 변이는 심각한 서브워드(sub-word) 분절을 유발하며, 토큰당 평균 1.50개의 서브워드를 만든다. 우리는 서브워드 평균 초기화와 PCA 가이드 앵커 손실을 결합하여 어휘 확장 중 임베딩을 안정화하는 ROMEVA(Roman Urdu Embedding-preserving Vocabulary Adaptation)를 제안한다. 36,130개 댓글로 구성된 로마 우르두어 코퍼스를 사용하여 mBERT에 고도로 분절된 500개 토큰을 추가하고, 단순 미세조정, 서브워드 인지 미세조정, ROMEVA를 비교한다. ROMEVA는 사전학습된 임베딩 공간을 가장 효과적으로 보존하는 반면, 단순 미세조정이 하류 감성 분류 성능에서 가장 우수한 결과를 낸다. 이러한 결과는 임베딩 안정성과 하류 성능 사이의 단절을 보여주며, 형태론적으로 불일치하는 언어에서는 엄격한 임베딩 보존보다 더 강한 적응이 바람직할 수 있음을 시사한다.

arXiv:2604.18109v2cs.CL공통 태그 Sentence, Word Embeddings

FLiP: 멀티모달 다국어 문장 임베딩의 이해 및 해석을 향하여

FLiP: Towards understanding and interpreting multimodal multilingual sentence embeddings

본 논문은 사전학습된 문장 임베딩 공간을 이해하기 위한 인수분해 선형 투영(FLiP) 모델을 제안합니다. 우리는 다국어(LaBSE), 멀티모달(SONAR), API 기반(Gemini) 문장 임베딩 공간에서 여러 고자원 및 중자원 언어의 어휘적 내용을 복원하도록 FLiP 모델을 학습시킵니다. 우리는 FLiP가 임베딩에서 75% 이상의 어휘적 내용을 재현할 수 있음을 보여주며, 이는 기존의 인수분해되지 않은 기준 모델들을 현저히 능가합니다. 이를 진단 도구로 활용하여 선택된 문장 인코더들 간의 모달리티 및 언어 편향을 규명하고, 기존의 다운스트림 평가 작업에 의존하지 않고 실무자들에게 인코더에 대한 내재적 통찰을 제공합니다. 우리의 구현체는 https://github.com/BUTSpeechFIT/FLiP에서 공개되어 있습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.