Argument Linking: A Survey and Forecast
원문 초록
Semantic role labeling (SRL) -- identifying the semantic relationships between a predicate and other constituents in the same sentence -- is a well-studied task in natural language understanding (NLU). However, many of these relationships are evident only at the level of the document, as a role for a predicate in one sentence may often be filled by an argument in a different one. This more general task, known as implicit semantic role labeling or argument linking, has received increased attention in recent years, as researchers have recognized its centrality to information extraction and NLU. This paper surveys the literature on argument linking and identifies several notable shortcomings of existing approaches that indicate the paths along which future research effort could most profitably be spent.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
REFLECT: 감성, 감정, 공손함, 격식성에 대한 역할 인식 탐지
REFLECT: Role-Aware Detection of Sentiment, Emotion, Politeness, and Formality
대화에서 의사소통적 의미를 탐지하기 위해서는 어휘적 내용뿐 아니라 감성, 감정, 공손함, 격식성(SEPF)이 표현되는 참여자 역할 구조도 모델링해야 한다. 기존 접근법들은 문맥적 언어 표현에 의존하면서 의미역(semantic role)은 암묵적으로 남겨둔다. 본 연구에서는 네 가지 SEPF 차원을 이론에 기반한 의미역 레이블링(Semantic Role Labeling, SRL) 구성에 매핑하고, 이 구성을 트랜스포머의 셀프 어텐션(self-attention) 메커니즘에 직접 통합하는 역할 인식(role-aware) 트랜스포머 아키텍처를 제안한다. 역할 인식 어텐션은 방향성이 없는 내적 상태(감성 및 감정)를 모델링하며, 방향성을 갖는 역할 인식 어텐션은 외적 신호(공손함 및 격식성)에 대한 발화자-수신자(initiator-to-recipient) 관계를 포착한다. 이렇게 얻어진 역할 인식 표현은 의미역을 보조 특징(feature) 벡터로 덧붙이는 방식이 아니라, 각 입력이 기여하는 역할 정보의 양을 적응적으로 가중하는 학습된 게이트(gate)를 통해 문맥 임베딩(contextual embedding)과 융합된다. 네 개의 벤치마크(benchmark) 데이터셋에 걸쳐, 이 프레임워크는 강력한 BERT 기반 베이스라인에 비해 감정, 공손함, 격식성에서 통계적으로 신뢰할 수 있는 성능 향상을 보였으며, 그 향상은 저빈도의 복잡한 감정이나 매우 공손한 표현과 같이 이론적으로 예측된 경우에 집중되었다. 반면 감성에서의 향상은 미미하고 통계적으로 유의하지 않았는데, 이는 감성이 참여자 역할 구조보다는 어휘 선택을 통해 더 많이 전달됨을 시사한다. 실제 데이터에 대한 추가 평가는 이 프레임워크가 예측 성능과 모델 추적 가능성(traceability)을 모두 향상시킨다는 것을 보여준다. 이러한 결과는 트랜스포머 셀프 어텐션에 대한 언어학적으로 근거 있는 수정이 의사소통적 의미 탐지를 향상시키고, 벤치마크 데이터셋을 넘어 실제 정신 건강(mental-health) 데이터로도 일반화되며, 예측 성능을 넘어 해석 가능성(interpretability)까지 확장하는 추적 가능하고 역할에 근거한 설명을 제공함을 보여준다.
패턴 인식기에서 개인화된 동반자로: 정신 건강 분야 대규모 언어 모델 서베이
From Pattern Recognizers to Personalized Companions: A Survey of Large Language Models in Mental Health
전 세계적으로 증가하는 정신 건강 질환 유병률은 제한된 자원, 높은 비용, 사회적 낙인, 개인정보 보호 우려와 같은 전통적 의료 체계의 오랜 장벽과 맞물려, 접근 가능하고 확장이 용이한 지원책에 대한 시급한 필요성을 낳았습니다. 대규모 언어 모델(LLM)은 고도화된 자연어 이해 및 생성을 통해 정신 건강 지원의 민주화를 이끌 강력한 잠재력을 지닌 혁신적 기술로 부상했습니다. 그러나 이 분야에서 급격히 확장되며 파편화된 연구들은 일관된 발전적 서사를 갖추지 못해, 현재의 진척 상황을 맥락화하고 향후 연구 방향을 파악하는 데 어려움을 초래하고 있습니다. 본 서베이 논문은 정신 건강 분야에서 LLM의 역할이 뚜렷하고 점진적으로 정교해지는 세 가지 단계를 거쳐 진화하고 있다는 중심 논제를 바탕으로 문헌을 체계화하고 분석하여 이러한 공백을 해소합니다. 저자들은 LLM이 평가를 위한 수동적인 정보 도구이자 패턴 인식기(Pattern Recognizer)로 주로 기능했던 1단계에서 시작하여, 일회성의 무상태(stateless) 상호작용을 수행하는 공감형 대화자(Empathetic Conversationalist) 역할을 하는 2단계를 거쳐, 상태를 유지하는(stateful) 인지 에이전트로 구현되어 장기적이고 개인화된 동반자(Longitudinal, Personalized Companion)를 지향하는 현재의 최전선인 3단계에 이르기까지 그 궤적을 추적합니다. 이러한 프레임워크를 뒷받침하기 위해 핵심 기술, 에이전트 아키텍처(프로필, 메모리, 추론, 계획), 그리고 데이터셋과 벤치마크라는 핵심 인프라를 체계적으로 검토하고, 이들의 진화가 이러한 발전 경로를 어떻게 뒷받침하는지 조명합니다. 본 연구는 이러한 발전적 관점을 통해 기존 연구를 종합적으로 정리하고, 궤적에 대한 통찰력 있는 서사를 제시하며, 정신 건강 관리를 위한 책임감 있고 효과적이며 인간 중심적인 AI의 미래 혁신을 위한 명확한 로드맵을 제공합니다. 본 서베이에서 검토된 큐레이션된 자료 모음은 프로젝트 저장소(https://github.com/Emo-gml/Awesome-Mental-Health-LLMs)에서 확인할 수 있습니다.
논증 마이닝 파이프라인 설계 및 분석: 종합적 평가를 향하여
Designing and Analysing Argument Mining Pipelines: Towards a Comprehensive Assessment
논증 마이닝(Argument Mining, AM)은 자연어를 그 이면의 논증 구조로 변환한다. 이러한 변환은 일반적으로 end-to-end AM 파이프라인을 구성하는 일련의 AM 태스크를 통해 실현된다. 그러나 AM 접근법들은 이러한 태스크를 개념화하는 방식에서 종종 달라, 서로를 직접 비교하기 어렵고 불투명하게 만든다. 이는 더 명확한 비교와 평가를 가능하게 하기 위해 AM 접근법에 대한 보다 미세한, 태스크 수준의 분석을 요구한다. 본 연구는 최신 end-to-end AM 연구들을 체계적으로 검토하는 예비 메타 연구를 제시하며, 언어학적·계산적·도메인적 관점의 삼중 프레임워크를 통해 각 파이프라인이 논증을 구조로 어떻게 모델링하고, 이를 어떻게 계산하며, 도메인 지식을 어떻게 통합하는지 분석한다. 또한 언어학적·계산적 관점에 대한 일반적 설계를 제안하여, 핵심 AM 태스크가 논증 구조의 모델링과 계산을 위해 어떻게 설계되는지 보여준다. 제안한 프레임워크는 AM 접근법 전반에 걸친 방법론 중심 서술의 토대를 마련하여, 향후 연구에서 더 깊은 이해와 더 체계적인 비교를 촉진한다.
고수준 의미 지능을 향하여
Towards High-Level Semantic Intelligence
최근 AI의 발전은 인지 및 추론 능력을 크게 확장했다. 의미적 복잡성(semantic complexity) 관점에서 AI의 발전은 단순한 의미 처리에서 복잡한 의미 처리로 이어지는 뚜렷한 궤적을 보여준다. 초기 AI 시스템은 주로 직접적이고 문자 그대로의 의미 인식 또는 표현과 관련된 과제를 다루었지만, 현대 시스템은 점점 더 정교한 인지 추론을 수행할 것으로 기대되며, 이를 통해 고수준 의미(High-Level Semantics, HLS)의 이해와 생성을 가능하게 한다. 유사한 궤적은 인간의 인지 발달에서도 관찰할 수 있다. 우리는 이러한 전환을 기본 수준 의미 지능(Basic-Level Semantic Intelligence, BLSI)에서 고수준 의미 지능(High-Level Semantic Intelligence, HLSI)으로의 전환으로 정의한다. 그러나 이 문제는 기존 연구에서 아직 체계적이고 포괄적으로 검토되지 않았다. 이 공백에 동기를 부여받아, 본 서베이는 의미적 복잡성 관점에서 AI 의미 지능의 발전을 검토한다. 우리는 텍스트, 음성, 비전, 멀티모달 시나리오 전반에 걸쳐 유머, 풍자, 은유, 공감, 설득, 내러티브 및 기타 일반적인 HLS 현상을 포함한 HLS 과제에 대한 기존 연구를 체계적으로 조사한다. 구체적으로, 이해와 생성 모두에 대해 데이터 구축 방법, 모델링 및 최적화(optimization) 전략, 평가(evaluation) 방법론을 요약한다. HLS는 AI를 진정으로 인간과 유사한 지능으로 발전시키는 데 필수적이다. 의미 지능 관점에서 기존 방법과 통찰을 종합함으로써, 본 서베이는 HLSI를 향한 AI의 지속적인 발전을 지원하는 것을 목표로 한다.
고립된 태스크에서 구조화된 역량으로: 대규모 언어 모델을 위한 다층 분류체계
From Isolated Tasks to Structured Capabilities: A Multilayer Taxonomy for Large Language Models
대규모 언어 모델(LLM) 평가는 다양한 태스크와 벤치마크에 걸쳐 있지만, 증거는 여전히 그들이 탐색하는 역량보다는 태스크를 중심으로 조직되어 있다. 이러한 파편화는 연구 간 비교를 제한하고, 태스크가 동원하는 역량을 흐리게 하며, 커버리지 공백을 식별하기 어렵게 만든다. 우리는 원시(Primitive), 구성(Constructed), 통합(Integrative) 층에 걸친 14개 역량 영역과 91개 하위 기술로 구성된 다층 분류체계를 제안한다. 인간 인지과학이 LLM 아키텍처가 아닌 역량 정의와 조직을 이끈다. 층 배정은 발달적 우선순위와 가설적 기능적 지원에 기반하며, 인간 기원의 구성요소는 관찰 가능한 모델 행동에 맞게 조정된다. 운영적 유용성을 보여하기 위해, 2023년부터 2025년 사이 ACL, AAAI, ICML, NeurIPS의 31,505편 논문을 선별하고, 다중 모델 주석, 합의, 중재를 통해 15,934편의 LLM 중심 논문을 매핑했다. 직접적인 연구 관심은 Language-Semantic Competence(3,551; 22.3%), Reasoning(3,388; 21.3%), Planning and Decision-Making(2,149; 13.5%), Perception(1,954; 12.3%)에 집중되었으며, 6개 영역은 논문의 2% 미만에서만 나타났다. 영역 내에서 가장 빈번한 하위 기술의 중앙값 출현률은 97.9%였으며, 14개 영역 중 10개에서 논문의 최소 90%에 나타났다. Language-Semantic Competence와 Reasoning이 가장 많은 쌍을 이루었고(n = 1,864; 11.7%; lift = 2.47), Theory of Mind와 Social Reasoning and Interaction은 최소 20회 공존을 가진 쌍 중 가장 높은 lift를 보였다(n = 62; lift = 30.84). 분석 단위를 고립된 태스크에서 구조화된 역량으로 전환함으로써, 이 분류체계는 연구 조직, 커버리지 점검, 평가 해석, 그리고 진단, 학습, 전이(transfer)를 위한 검증 가능한 가설을 지원한다.
아랍어를 위한 양자 조합 자연어 처리: 회로 토폴로지의 문법, 형태론, 단어 의미
Quantum Compositional NLP for Arabic: Grammar, Morphology, and Word Sense in Circuit Topology
우리는 pregroup grammar 기반 양자 조합 자연어 처리(quantum compositional natural language processing, QNLP)를 아랍어에 최초로 적용한다. 아랍어는 형태론적으로 풍부하고 자유 어순(free-word-order) 언어로, 그 구조적 복잡성이 양자 회로에서의 의미 조합 이론에 대한 독특하게 까다로운 시험대를 제공한다. 우리 시스템은 아랍어 문장을 문법적 구조를 반영하는 토폴로지의 양자 회로로 변환한다. 주어, 동사, 목적어는 양자 게이트가 되며, 이들 사이의 타입 의존성(pregroup grammar)이 해당 게이트들이 어떻게 연결되는지를 결정한다. 우리는 어순, 형태론적 시제, 동사 의미 모호성 해소를 아우르는 세 가지 통제 실험을 수행하고, AraVec(아랍어 단어 임베딩) 및 AraBERT(사전학습된 아랍어 트랜스포머)를 포함한 고전적 베이스라인과 양자 회로 방법을 비교한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.