진화적 의미론에서의 합성성과 어휘
Compositionality and the lexicon in evolutionary semantics
한국어 초록
형식 의미론(formal semantics)은 문장 의미가 어휘 의미를 재귀적으로 합성함으로써 생겨난다는 것을 보여 주었지만, 의미 보편성(semantic universals)에 관한 문헌의 상당 부분은 고정된 신호 구조를 가진 어휘집이나 해석 가능한 어휘 성분 없이 전체론적(holistic) 합성만을 모델링한다. 우리는 형식 의미론의 이 기본 통찰을 진화 모델링에 통합하는 프레임워크를 제안한다. 이 프레임워크에서는 개념적 단순성과 의사소통 정확성에 대한 압력 아래 어휘 의미와 합성 함수가 공진화(co-evolve)하도록 한다. 이 프레임워크를 양화(quantificational) 의미의 진화에 적용한다. 파레토 전선(Pareto frontier)을 분석한 결과, 가장 잘 알려진 의미 보편성인 보수성(conservativity)이 효율적인 시스템 전역 추상화로서 나타남을 발견한다. 이 설명은 구문 구조에 민감하며, 양화사(quantifier) 학습 가능성에 관한 실증적 증거와 기존 진화 모델 간의 긴장을 완화하는 데 도움이 된다. 더 넓게 보면, 결과는 형식 의미론에서 발전된 문장 의미에 대한 그림이 진화 모델링과 생산적으로 결합될 수 있음을 보여 준다. 이 프레임워크는 문법 범주 내 전역 압축, 구문 인수의 의미적 특화, 어휘 의미와 합성 의미의 공진화를 포함하는 보편성을 연구하기 위한 틀을 제공한다.
원문 초록
Formal semantics has shown that sentence meanings arise by recursively composing lexical meanings, yet much of the literature on semantic universals models either lexicons with fixed signal structures or holistic composition without interpretable lexical parts. We introduce a framework that integrates this fundamental insight of formal semantics in evolutionary modeling, by allowing lexical meanings and a composition function to co-evolve under pressures for conceptual simplicity and communicative accuracy. We apply this framework to the evolution of quantificational meaning. Analyzing the Pareto frontier, we find that the most well-known semantic universal, conservativity, emerges as an efficient system-wide abstraction. The account is sensitive to syntactic structure and helps reconcile tensions between empirical evidence on quantifier learnability and prior evolutionary models. More broadly, the results demonstrate that the picture of sentential meaning developed in formal semantics can be productively combined with evolutionary modeling. The framework offers a template for studying universals that involve global compression within a grammatical category, semantic specialization of syntactic arguments, and the co-evolution of lexical and compositional meaning.
요약
형식 의미론의 합성성(compositionality) 통찰을 진화 모델링에 통합하는 프레임워크를 제안하여, 개념적 단순성과 의사소통 정확성 압력 아래 어휘 의미와 합성 함수가 공진화하도록 모델링한다. 양화 의미 진화에 적용한 결과, 대표적 의미 보편성인 보수성(conservativity)이 효율적인 시스템 전역 추상화로 출현하며 양화사 학습 가능성에 관한 실증과 기존 진화 모델의 긴장을 완화한다.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.27228v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
문장 수준에서의 법해석 기준 분류: 독일 연방헌법재판소 판결 기반 벤치마크
Classifying Interpretive Canons at the Sentence Level: A Benchmark from the German Federal Constitutional Court
사법적 추론은 대규모 언어 모델(LLM)이 분석하기에 여전히 까다로운 영역입니다. 본 논문은 사비니(Savigny)의 전통에 입각해 라렌츠(Larenz)가 체계화한 법해석 기준(interpretive canons)을 분류하는 LLM의 능력을 평가하기 위한 문장 수준의 벤치마크를 제시합니다. 본 연구의 기여는 세 가지입니다. 첫째, 이러한 법해석 개념을 분류(classification) 기준으로 구체화하여 작동 가능하게 만들었습니다. 둘째, 문장 수준에서 주석이 달린 독일 연방헌법재판소 결정 데이터셋(dataset)을 제공합니다. 셋째, 유전-파레토(Genetic-Pareto, GEPA)로 최적화된 프롬프트와 비교하여, 전문가가 직접 작성한 프롬프트 환경에서 3개 모델 계열의 4개 LLM에 대한 기준선(baseline) 평가를 보고합니다. 7개의 이진 하위 과제에 대한 평균 F1 점수는 모델(model) 전반에서 70.4에서 79.2 사이에 분포하며, 문법적 해석이 대체로 식별하기 가장 쉬운 기준인 반면 체계적 해석은 일반적으로 가장 어려웠습니다. 테스트된 구성에서는 GEPA로 최적화된 프롬프트가 직접 작성된 프롬프트를 일관되게 능가하지 못했으며, 이는 전문가 프롬프트가 유의미한 기준선을 제공함을 시사합니다.
문장 인코더에서의 개념 표현 원리
Principles of Concept Representation in Sentence Encoders
문장 인코더가 양질의 개념 표현을 생성하게 만드는 요인은 무엇일까요? 우리는 표현의 조합성(compositionality) 관점에서 이 문제에 접근합니다. 인코더는 해당 의미 연산자(semantic operator)에 대한 왜곡이 적은 실현(realization)을 잠재 공간이 허용할 때만 개념 패밀리를 지원합니다. 이러한 관점은 현재 인코더가 성공하는 영역과 학습 신호(supervision)와 구조적으로 불일치하는 영역을 모두 예측합니다. WordNet과 Wiktionary의 330만 개 동의어 및 정의 쌍으로 학습된 인코더 조건에 대한 제어된 소거(ablation) 실험을 통해, 세 가지 오염 제거 데이터 분할과 수식어 레이블이 포함된 명사구 벤치마크에서 평가한 결과, 네 가지 원리를 식별했습니다. 미세조정(fine-tuning)은 잠재 기하학을 확장하는 것이 아니라 재보정합니다 (P1). 개념 특화 학습(concept-specific training)이 시작되기 전에 의미 신호는 최종 트랜스포머 층에 집중되므로, 교차 층 풀링(cross-layer pooling)은 불필요합니다 (P2). 하드 네거티브(hard negatives)는 검색 순위(retrieval ranking)를 향상시키지 않으면서도 식별력을 개선하고 강건성(robustness)을 검증하며, 이는 보정(calibration)과 순위 매기기가 독립적으로 해결 가능함을 보여줍니다 (P3). 마지막으로, 학습 신호(supervision)의 효과는 목표 개념의 조합 유형에 따라 달라집니다. 외연적 학습(extensional training)은 교차적(intersective) 및 하위 집합적(subsective) 패밀리에는 도움이 되지만 관계형(relational) 및 내포적(intensional) 패밀리의 성능은 저하시키며, 이는 현재 학습 패러다임의 구조적 한계를 보여줍니다 (P4). 우리는 DBpedia 의미적 격차(semantic-gap) 벤치마크와 수식어 레이블이 포함된 명사구(NP) 패러프레이즈 모음이라는 두 가지 새로운 평가 데이터셋을 공개합니다.
Mitigating Object Hallucinations via Sentence-Level Early Intervention
AI Wizards at CheckThat! 2025: Enhancing Transformer-Based Embeddings with Sentiment for Subjectivity Detection in News Articles
MMAO: 연속 및 이산 최적화를 위한 내인성 자원 할당 기반 대사적 다중 에이전트 옵티마이저
MMAO: A Metabolic Multi-Agent Optimizer with Endogenous Resource Allocation for Continuous and Discrete Optimization
Minimal MMAO: 적응형 메타휴리스틱 탐색을 위한 자원 폐쇄 루프 프레임워크
Minimal MMAO: A Resource-Closed-Loop Framework for Adaptive Metaheuristic Search
토론
이 논문과 연결된 포럼 글이 아직 없습니다.