arXiv:2204.11660

A Survey on Word Meta-Embedding Learning

Danushka Bollegala, James O'Neill

제출 2022-04-25

원문 초록

Meta-embedding (ME) learning is an emerging approach that attempts to learn more accurate word embeddings given existing (source) word embeddings as the sole input. Due to their ability to incorporate semantics from multiple source embeddings in a compact manner with superior performance, ME learning has gained popularity among practitioners in NLP. To the best of our knowledge, there exist no prior systematic survey on ME learning and this paper attempts to fill this need. We classify ME learning methods according to multiple factors such as whether they (a) operate on static or contextualised embeddings, (b) trained in an unsupervised manner or (c) fine-tuned for a particular task/domain. Moreover, we discuss the limitations of existing ME learning methods and highlight potential future research directions.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.23675v1cs.CL공통 태그 Survey, Word Embeddings

표준 단어 임베딩의 특성에 대한 실증적 조사

An empirical investigation into the properties of standard word embeddings

단어 시퀀스를 연속 벡터 공간에 임베딩하는 것은 최근 자연어 처리(NLP) 분야에서 가장 중요한 발전 중 하나였다. 이러한 임베딩은 자동 음성 인식, 기계 번역, 감성 분석 등 다양한 영역에 응용되어 왔다. 본 에세이는 단어 임베딩 계산을 위해 제안된 다양한 메커니즘을 검토하고, 공개 도메인에서 이용 가능한 널리 쓰이는 툴킷과 임베딩 행렬을 조사하며, 하나 이상의 선정된 구현을 실험하여 그 특성을 더 잘 이해한다. 단어의 연속 벡터 표현은 최근 몇 년간 자연어 처리 분야에서 가장 중요한 발전 중 하나였다. 이러한 표현은 음성 인식, 기계 번역, 감성 분석 등의 분야에 응용되어 왔다. 본 연구는 이러한 단어 벡터 계산을 위해 제안된 다양한 메커니즘을 검토하고, 공개적으로 온라인에서 이용 가능한 인기 툴킷과 행렬을 조사하며, 하나 이상의 선정된 구현을 실험하여 그 특성을 더 잘 이해한다.

arXiv:2607.22305v2cs.AI공통 태그 Survey

영향력 있는 다원주의적 정렬 연구를 위한 로드맵

A Roadmap to Impactful Pluralistic Alignment Research

책임 있는 AI에 관한 많은 연구는 수십억 명이 사용하는 AI 시스템의 행동을 바꾸는 것을 목표로 한다. 다양한 인간의 가치와 관점을 대표하고 이에 기여하는 AI 시스템을 구축하는 것을 목표로 하는 다원적 가치 정렬은 이러한 활발한 연구 의제 중 하나로 부상했다. 그러나 주요 프론티어 연구소와 오픈 웨이트 개발자를 감사한 결과, 다원적 정렬이 이들 모델의 학습이나 평가 방식에 영향을 미쳤다는 공개적 증거를 찾을 수 없었다. 다원적 정렬은 주요 목표를 달성하려면 실제 도입이 필요하므로, 우리는 세 가지 장벽을 규명하고 각각을 해결하기 위한 연구 로드맵을 제시한다. 1. 지금까지 다원적 정렬의 정당화는 대부분 규범적이거나 이론적이다. 다원적 AI가 사용자와 사회에 주는 이점과 단점을 측정하는 연구가 필요하다. 2. 다원적 정렬 연구 커뮤니티는 다원적 행동이 언제 정당화되는지, 그리고 실제로 어떤 모습이어야 하는지에 대해 합의하지 못했다. 개발자가 이를 구현할 수 있을 만큼 구체적으로 이 행동을 명세하는 연구가 필요하다. 3. 기존의 다원주의 평가와 방법은 배포할 준비가 되어 있지 않다. 다른 모델 특성에 미치는 영향을 보고하고 프로덕션 시스템의 요구 사항을 충족하는 평가와 방법이 필요하다. 이러한 장벽은 다원적 정렬에만 해당하지 않으므로, 우리의 로드맵은 유사한 변화 이론을 가진 책임 있는 AI 연구의 다른 분야에도 적용된다. 사람들이 더 많은 의사결정을 AI 시스템에 맡기고 AI 에이전트가 사람을 대신해 행동하는 만큼, 우리는 이 로드맵이 해당 연구가 그러한 결정을 내리는 배포된 모델에 도달하도록 돕기를 바란다.

arXiv:2609.26142v2stat.ME공통 태그 Survey

하나의 해답을 향한 세 가지 경로: 응용 연구자를 위한 AIPW, TMLE 및 이중 머신러닝의 일치화

Three Routes to One Answer: Reconciling AIPW, TMLE, and Double Machine Learning for Applied Researchers

증강 역확률 가중(AIPW), 표적 최대우도 추정(TMLE), 이중/편향 제거 기계학습(DML)은 평균 처치 효과에 대한 동일한 효율적 영향 함수에 이르는 점근적으로 동등한 세 가지 경로이다. 우리는 실제 데이터에서 공유된 교란 모수를 이용한 실제 사례 조정을 제시한다. 즉, 이 경로들과 해당 소프트웨어가 일치하려면 실무자가 무엇을 고정해야 하는지, 그리고 언제 일치하지 않는지를 다룬다. 금연과 체중 변화에 대한 공개 데이터(n = 1566), 하나의 Super Learner 라이브러리, 방식 내에서 일치시킨 폴드를 사용하여, 전체 표본, 교차 적합, 이중 교차 적합 변형으로 세 가지를 모두 직접 구현한다. 고정된 설계에서 표본 평균 효과가 알려진 준합성 벤치마크로 구간 포함률을 평가한다. 여섯 개의 이중 강건 추정치는 반복 분할에 걸쳐 3.32--3.39 kg의 범위를 보인다. 우리 코드와 tmle, AIPW, DoubleML, tmle3 패키지의 단일 실행 결과는 3.32--3.49 kg의 범위를 보이며, 이는 적합 방식의 차이와 단일 분할 잡음과 부합한다. 20개의 시드에 걸쳐, 우리 라이브러리를 공유하는 세 가지 구현은 그중 하나가 TMLE임에도 중앙값 기준 0.01 kg 이내에서 일치한다. 일치는 실패할 수 있다. 이진 사망 결과에 대해 표본 내 교란 모수 적합을 사용하는 경우와, 직업 훈련 사례에서 겹침이 부족한 경우가 그러하다. 우리는 추정량을 선택하기 전에 겹침을 진단할 것을 권장하며, 보고 체크리스트와 소프트웨어 코드를 제공한다.

arXiv:2609.22695v2cs.AI공통 태그 Survey

선형 표현 가설에 관한 서베이

A Survey on the Linear Representation Hypothesis

"선형 표현 가설(LRH, Linear Representation Hypothesis)"이라는 용어는 인공지능, 뇌과학, 인지과학의 다양한 하위 분야 전반에 걸쳐 등장해 왔습니다. 그러나 이전 연구들은 LRH를 반증 가능한 과학적 가설로 일관되게 다루지 않았습니다. 본 연구에서는 이러한 불일치를 분석하고, 기존의 이론적·방법론적 결과들이 어떻게 해석되어야 하는지에 미치는 영향을 살펴봅니다. 이러한 분석을 바탕으로, 선형 표현에 관한 주장은 모델, 표현의 위치, 특징(feature) 정의 및 평가 데이터셋에 대한 면밀한 검토를 통해서만 명확하게 정의될 수 있다고 주장합니다. 따라서 우리는 이러한 의존성을 명시화하여 해당 가설을 반증 가능한 과학적 주장으로 평가할 수 있도록 하는, 더욱 엄밀하게 정식화된 LRH를 제안합니다. 마지막으로, 연구 커뮤니티의 추가적인 관심이 필요한 몇 가지 중요한 미해결 과제들을 제시합니다.

arXiv:2610.13398v1cs.CL공통 태그 Survey

세계의 지붕을 향하여: 티베트어 자연어처리(NLP)의 진전

Towards the Roof of the World: NLP Progress in Tibetan Languages

티베트어는 청장고원(靑藏高原, Qinghai-Xizang Plateau) 및 그 주변 지역에서 약 700만 명이 사용하는 언어이지만, 자연어처리(NLP) 분야에서는 여전히 충분히 다루어지지 않고 있다. 본 논문은 우리가 아는 한 티베트어 NLP에 대한 최초의 동료 심사를 거친 체계적 서지 계량(bibliometric) 조사를 제시한다: ACL Anthology와 DBLP에 등재된 2004년부터 2026년까지의 140편의 출판물을 대상으로 발표 매체 유형, 연구 분야, 제1저자 소속 기관의 국가, 자원 공개 여부를 주석(annotate)하였다. 연구 성과는 빠르게 증가해 왔으며, 전체 출판물의 84%가 2018년 이후에 발표되었고, 코퍼스(corpora)와 단어 분절(word segmentation)에서 문자, 음성, 응용을 거쳐 대규모 언어 모델(LLM)에 이르기까지 NLP 파이프라인을 따라 상향식(bottom-up)으로 확장되어 왔다. 중국에 소재한 연구자들이 전체 출판물의 87%에서 제1저자였으며, 이들의 연구는 조사에서 대표된 25개 연구 분야 전체를 포괄하는 반면, 다른 국가의 연구는 고전 티베트어(Classical Tibetan)에 집중되어 있다. 우리는 복잡한 문자 체계, 방언적 다양성, 지리적 고립이라는 복합적 제약 속에서 구현된 이러한 전체 파이프라인 패러다임이 글로벌 사우스(Global South)의 다른 저자원(low-resource) 언어들에게 참조 모델을 제공한다고 주장한다. 또한 우리는 방언 범위, 책임있는(responsible) NLP, 네이티브 및 비교 가능한 평가, 커뮤니티 간 가시성, 자원 공개(출판물 중 데이터, 코드, 또는 모델을 공개한 비율은 29%에 불과함)에서의 격차를 확인하며, LLM 시대를 위한 오픈 사이언스(open science), 공유 표준, 커뮤니티 참여를 권고한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.