arXiv:2012.05715

Towards Coinductive Models for Natural Language Understanding. Bringing together Deep Learning and Deep Semantics

Wlodek W. Zadrozny

제출 2020-12-09

원문 초록

This article contains a proposal to add coinduction to the computational apparatus of natural language understanding. This, we argue, will provide a basis for more realistic, computationally sound, and scalable models of natural language dialogue, syntax and semantics. Given that the bottom up, inductively constructed, semantic and syntactic structures are brittle, and seemingly incapable of adequately representing the meaning of longer sentences or realistic dialogues, natural language understanding is in need of a new foundation. Coinduction, which uses top down constraints, has been successfully used in the design of operating systems and programming languages. Moreover, implicitly it has been present in text mining, machine translation, and in some attempts to model intensionality and modalities, which provides evidence that it works. This article shows high level formalizations of some of such uses. Since coinduction and induction can coexist, they can provide a common language and a conceptual model for research in natural language understanding. In particular, such an opportunity seems to be emerging in research on compositionality. This article shows several examples of the joint appearance of induction and coinduction in natural language processing. We argue that the known individual limitations of induction and coinduction can be overcome in empirical settings by a combination of the the two methods. We see an open problem in providing a theory of their joint use.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.00848v4cs.CL공통 태그 Machine Translation, Natural Language Understanding

MetaHOPE: MT 및 LLM 번역 오류 분석을 위한 은유 지향 평가 프레임워크

MetaHOPE: A Metaphor-Oriented Evaluation Framework for Analysing MT and LLM Translation Errors

본 의견 논문에서 우리는 은유 번역 평가를 위한 오류 심각도 인식 주석(annotation) 프레임워크인 MetaHOPE를 제안한다. 은유는 의미적 복잡성, 문맥 의존성, 문화적 임베딩(cultural embeddings) 등의 특성으로 인해 기계 번역(MT)과 자연어 이해 및 처리(NLU, NLP)에 어려움을 제기하며, NLP 모델에서 모호성 문제를 야기할 수 있다. 최신(state-of-the-art) NLP 모델이 은유 번역에서 어떻게 수행되는지 조사하기 위해 GoogleMT, GPT5.4, Hunyuan-7b의 세 가지 대표 시스템을 신경망 기계 번역(NMT) 모델 및 LLM으로 선정하였다. 영어-중국어 및 중국어-영어 번역 목적으로 VUAMC와 PSUCMC를 포함한 두 개의 사람 주석 은유 코퍼스를 사용하였다. 사용한 원본 코퍼스는 단일언어(monolingual)이며, MetaHOPE 프레임워크를 이용해 오류 주석을 수행하고, 이중언어 활용을 위한 사람 후편집(post-edited) 골드 레퍼런스도 새 자료로 제작하였다. 은유 번역 주석을 위한 MetaHOPE 평가 프레임워크, 병렬 코퍼스 자료, 최신 자동 번역 모델에 대한 오류 분석이 은유 번역 연구 분야에 유용하고 일부 통찰을 제공할 수 있을 것으로 본다. 자료는 github.com/Jiahui84/MetaHOPE에서 공개한다.

arXiv:2609.27086v1cs.CL공통 태그 Machine Translation, Natural Language Understanding

NADI 2026: 두 번째 다중 방언 아랍어 음성 처리 공유 과제

NADI 2026: The Second Multidialectal Arabic Speech Processing Shared Task

NADI 2026은 Nuanced Arabic Dialect Identification(NADI) 공유 과제 시리즈의 일곱 번째 개최이며, 다중 방언 아랍어 음성 처리에 초점을 맞춘 두 번째 회차이다. 이번 회차는 자동 음성 인식(ASR), 구어 방언 식별(SDID), 텍스트 음성 변환(TTS), 구어 언어 번역(SLT), 구어 언어 이해(SLU)에 걸친 다섯 가지 과제와 여덟 개의 하위 과제로 구성된다. NADI 2026은 저대역폭, 혼합 방언, 코드 스위칭, 도메인 외(out-of-domain), 제로샷(zero-shot) 설정을 통한 현실적인 평가를 강조하며, 시리즈에 TTS, SLT, SLU를 처음으로 도입한다. 공유 과제에는 최소 13개국에서 온 21개 참가 팀이 참여했고, 테스트 단계 제출 48건과 시스템 설명 논문 14편이 제출되었다. 결과는 도메인 외 일반화가 여전히 주요 병목임을 보여 주며, 최근 아랍어 특화 음성 모델, 멀티모달 방언 식별 접근, 앙상블 방법의 효과를 부각한다. 전반적으로 NADI 2026은 견고한 아랍어 방언 음성 처리를 위한 더 넓고 도전적인 벤치마크를 제공한다.

arXiv:2607.21016v1cs.CL공통 태그 Machine Translation, Natural Language Understanding

CultureTalk-ID: 인도네시아 지역 언어 문화적 상식을 위한 다중 과제 대화 벤치마크

CultureTalk-ID: A Multi-Task Dialogue Benchmark for Cultural Commonsense in Indonesian Local Languages

문화는 대화를 통해 살아 숨 쉬지만, 기존 인도네시아 문화적 상식 벤치마크는 대규모 언어 모델(LLM)을 짧고 고립된 프롬프트로 평가하여, 문화적 뉘앙스가 실제로 드러나는 대화적 맥락을 제거한다. 우리는 CultureTalk-ID를 제안한다. 이는 인도네시아어 및 그 지역 언어에서 문화적 상식을 평가하기 위한 최초의 대화 기반 벤치마크로, 11개 언어와 13개의 문화적으로 중요한 주제에 걸친 4,496개의 문화적으로 정합된 대화로 구성되며, 진정성을 보장하기 위해 원어민 화자가 참여한 다단계 인간 파이프라인을 통해 구축되었다. CultureTalk-ID는 세 가지 상호 보완적인 과제, 즉 대화 기반 다지선다 문화적 상식 추론, 문화적으로 충실한 기계 번역, 그리고 언어 스티어링(language steering)을 도입하며, 이들은 LLM이 문화적으로 정합된 언어를 이해하고, 전달하고, 생성할 수 있는지를 함께 탐색한다.

arXiv:2606.31087v2cs.CL공통 태그 Machine Translation, Natural Language Understanding

리랭킹이 성능을 저하시킬 때: 퓨샷 리랭킹을 위한 불확실성 기반 게이팅

When Reranking Hurts: Uncertainty-Based Gating for Few-Shot Reranking

퓨샷(few-shot) 선택은 일반적으로 검색된 예시를 리랭킹하면 항상 성능이 향상된다고 가정한다. 우리는 비용이 큰 리랭킹 단계가 실제로 성능을 저하시킬 수 있음을 밝혀냄으로써 이러한 관점에 이의를 제기한다. 대신, 우리는 모델의 불확실성을 기반으로 퓨샷 예시의 리랭킹 여부를 결정하는 Training-Free Gated Reranking을 제안한다. 7개의 자연어 이해(NLU) 데이터셋과 9개의 기계 번역(MT) 도메인-언어 조합을 포함하는 8개의 대규모 언어 모델(LLM)에 걸친 광범위한 실험을 통해, 우리의 접근법이 계산 비용을 15%~80% 절감하면서 평균 성능을 최대 2%까지 향상시킴을 입증한다. 이러한 결과는 높은 계산 비용이 더 나은 성능을 보장하지 않으며, 리랭킹은 불확실성이 높은 인스턴스를 대상으로 할 때 가장 효과적임을 시사한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.