PyTorchKR Papers

최신 논문

총 1,841편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.10069v1cs.AI

모호한 발화에서 거버넌스 기반 재사용 클래스까지: 정규형화, 몫 불변성, 조건부 결정가능성

From ambiguous utterances to governed reuse classes: canonicalization, quotient invariance, and conditional decidability

시맨틱 캐싱(semantic caching)은 임베딩 유사도를 기반으로 답변 재사용을 정의한다: 두 발화는 유사도 점수가 임계값을 초과할 때 저장된 답변을 공유하며, 인가(authorization), 버전 관리, 또는 두 요구가 동일한 것이 무엇인지에 대한 개념이 없다. 이 논문은 재사용이 정의되는 객체를 변경한다: 거버넌스가 적용된 도메인에서 재사용은 유사도 휴리스틱이 아닌, 해결된 대화적 요구의 수학적으로 특징지어진 몫(quotient) 위에서 작동해야 한다. 해결된 발화에 대해 독립적으로 정의된 세 가지 관계 -- 읽기 동일성(reading identity), 해결 동일성(resolution identity), 재사용 동일성(reuse identity) -- 은 정제 연쇄(refinement chain)를 형성하며, 배포 로그에서 확인 가능한 실현된 비퇴화(nondegeneracy) 조건 하에서 엄격하다. 파이프라인의 출력은 연쇄를 따라 불변이며, 재사용 동일성은 거버넌스 기반 답변 분할로의 해결 사상(resolution map)의 커널(kernel)과 정확히 일치하므로, 재사용 몫은 해당 분할이 유도하는 발화 측 객체이지 그것의 재레이블링이 아니다. 재사용 동일성은 거버넌스 기반 쿼리 키와 그 인증된 답변 공간을 허가하며, 특정 답변의 재사용은 해결 동일성 또는 적용 가능성 인증서(applicability certificate)를 필요로 한다. 지원 층(layer)은 증명된 정확한 강도로 명시된다: 정확한 지시 정규형(exact-denotation normal forms); 설계 연산자로서의 조인 집계(join aggregation)와 탈출 없음을 특징짓는 클로저-안정 셀(closure-stable cells); 신뢰되지 않은 제안 층에 대한 전체 파이프라인의 전적 계산 가능성(total computability); 임의 제안자에 대한 정책 허용 가능성(policy admissibility) -- 그리고 증명 가능하게 사실적 그라운딩이나 의도 충실도는 아님; 목표 일관성 하에서 건전하며 유한히 많은 정보 제공 응답 후 종료되는 유도(elicitation).

arXiv:2607.09338v1cs.CL

엔드투엔드 생성 TOD에서의 비일관성 탐지를 향하여

Towards Detecting Inconsistencies in End-to-end Generated TODs

생성형 AI는 대화 시스템의 핵심 기술을 근본적으로 변화시키며, 컴포넌트 기반 방식에서 엔드투엔드 방식으로의 전환을 이끌고 있다. 그러나 대규모 언어 모델(LLM)은 여전히 비일관성을 생성할 수 있으며, 이는 특히 작업 지향 대화(TOD)에서 심각한 문제가 된다. TOD에서는 시스템 응답이 도메인 지식 베이스(예: 도시 내 식당 정보)의 정보를 엄격히 준수해야 하기 때문이다. 단 하나의 환각(예: 존재하지 않는 식당을 추천하는 것)도 심각한 작업 실패로 이어질 수 있다. 우리는 TOD를 제약 만족 문제(CSP)로 개념화하여 비일관성을 자동으로 탐지하는 방법을 연구한다. 이 접근법에서 변수는 대화 도메인을 참조하는 대화 세그먼트를 나타내고, 변수 간의 제약 조건은 턴 일관성 및 도메인 지식 준수와 같은 대화 속성을 포착한다. 우리는 대상 대화에서 변수를 먼저 식별한 후 CSP 솔버를 적용하여 유효한 해를 찾는 파이프라인을 제안한다. 대상 대화와 유효한 변수 할당을 비교함으로써 비일관성을 탐지하고 대화 일관성을 보장하기 위한 최소한의 변경 사항을 제안할 수 있다. 우리는 비일관성 탐지에서 CSP 기반 접근법의 높은 정확도를 입증하고, 연구 결과에 대한 상세한 분석을 제공한다.

arXiv:2606.18613v3cs.CL

대규모 언어 모델(LLM)은 의사를 보조할 준비가 되었는가? 대화형 의사-환자-EHR 보조를 위한 PhysAssistBench

Are LLMs Ready to Assist Physicians? PhysAssistBench for Interactive Doctor-Patient-EHR Assistance

의료용 대규모 언어 모델(LLM)의 가장 현실적인 단기적 역할은 의사를 대체하기보다는 보조하는 것이지만, 현재의 평가는 종종 임상 지식, 전자 건강 기록(EHR) 시스템 상호작용, 또는 환자와의 소통과 같은 개별적인 능력만을 테스트합니다. 의사 보조는 대신 동일한 상호작용 내에서 이러한 능력들을 조율하는 것을 요구하며, 여기서 의사는 불완전한 요청을 하고, 환자는 증상을 모호하게 설명하며, EHR 시스템은 정밀한 도구 사용을 요구합니다. 우리는 대화형 의사-환자-EHR 보조를 위한 벤치마크인 PhysAssistBench를 소개합니다. 실제 MIMIC-IV 사례를 기반으로 구축된 PhysAssistBench는 확장 가능한 파이프라인을 사용하여 에이전트 환자를 구축합니다. 이는 임상적 사실성을 유지하면서 정적인 EHR 기록을 멀티턴 임상 시나리오로 변환하는 대화형이며 기록 기반의 에이전트입니다. PhysAssistBench는 1,296개의 수동 검토 및 의사 검증된 턴으로 구성된 엄선된 이중 언어 평가 세트를 제공합니다. 선도적인 LLM을 사용한 실험에 따르면, 현재 모델들은 이 설정에서 여전히 신뢰할 수 없는 것으로 나타났습니다. 이는 임상용 LLM의 주요 병목 현상을 드러냅니다: 신뢰할 수 있는 보조는 지식, 소통, 시스템 간의 조율을 필요로 하며, 그중 어느 하나에서의 개별적인 향상만으로는 부족합니다.

arXiv:2311.02564v2cs.CL

의미 향상 메커니즘 기반 관계 추출 모델

Relation Extraction Model Based on Semantic Enhancement Mechanism

관계 추출(Relation Extraction)은 자연어 처리(NLP) 분야에서 정보 추출과 관련된 기본 태스크 중 하나로, 정보 추출, 자연어 이해, 정보 검색 분야에서 중요한 연결 고리이자 핵심 태스크이다. 기존의 관계 추출 방법들은 트리플 중첩(triple overlap) 문제를 효과적으로 해결하지 못한다. 본 논문에서 제안하는 CasRel 프레임워크와 의미 향상 메커니즘을 결합한 CasAug 모델은 이 문제를 어느 정도 해결할 수 있다. CasAug 모델은 의미 향상 메커니즘을 추가함으로써 식별된 후보 주어(subject)의 의미를 강화한다. 먼저 후보 주어의 의미 인코딩을 기반으로 후보 주어를 사전 분류(pre-classification)하고, 주어 어휘 사전(subject lexicon)과 결합하여 의미 유사도를 계산함으로써 후보 주어의 유사 어휘를 획득한다. 획득된 유사 어휘를 바탕으로 서로 다른 관계 내 각 단어가 어텐션 메커니즘을 통해 후보 주어에 대한 기여도로 계산된다. 최종적으로 관계 사전 분류 결과와 결합하여 각 관계의 강화된 의미에 가중치를 부여함으로써 후보 주어의 강화된 의미를 도출하고, 해당 강화된 의미와 후보 주어를 결합하여 객체(object) 및 관계 추출 모듈로 전달한다. 이를 통해 최종 관계 트리플 추출을 완료한다. 실험 결과, 기준선 모델과 비교하여 본 논문에서 제안한 CasAug 모델이 관계 추출 성능을 향상시켰으며, 중첩 문제 처리 및 다중 관계 추출 능력 또한 기준선 모델보다 우수함을 확인하였다. 이는 본 논문에서 제안한 의미 향상 메커니즘이 중복 관계 판단을 더욱 줄이고 트리플 중첩 문제를 완화할 수 있음을 나타낸다.

arXiv:2607.08499v1cs.CL

프로크루스테스 조건화 결합 엔드투엔드 Top-K 희소 오토인코더를 이용한 크로스-시드 설명가능성

Cross-seed explainability using Procrustes-conditioned Joint End-to-end Top-K Sparse Autoencoders

독립적으로 학습된 BERT 모델들 사이의 크로스-시드 특징 보편성 문제를 해결하기 위해, 결합 SAE 학습 전 직교 Procrustes 회전으로 활성화 공간을 정렬하는 Procrustes 조건화 결합 엔드투엔드 Top-K 희소 오토인코더(SAE)를 제안한다. SST-2, Stanford Politeness, TweetEval Emotion 세 벤치마크에서 10개의 BERT 모델로 평가한 결과, 사후 정렬 기준선 대비 시드 간 Pearson r ≥ 0.70의 보편적 특징을 더 많이 생성하며, 높은 보편성의 특징이 해석 가능한 사회언어학적 패턴을 인코딩함을 확인했다.

arXiv:2607.04107v2cs.CL

자연스러운 읽기 중 N400 및 P600 역학을 형성하는 의미 통합과 어휘 기대

Contextual Semantic Relevance and Word Surprisal Predict N400 and P600 Dynamics During Naturalistic Reading

자연스러운 읽기(naturalistic reading) 중 단어 수준의 EEG 반응을 예측하는 데 있어 GPT 기반 단어 놀라움(word surprisal)과 어텐션 인식 맥락적 의미 관련성(contextual semantic relevance)의 상보적 역할을 DERCo 코퍼스에서 22명의 참가자를 대상으로 비교 분석하였다. 두 지표 모두 N400 및 P600 구간의 EEG 반응과 유의한 연관성을 보였으나, 맥락적 의미 관련성은 특히 P600 구간에서 어휘 통제 변수와 놀라움을 넘어서는 독립적인 설명력을 제공하여 어휘 기대와 국소적 의미 통합이 언어 이해의 신경 역학에 함께 기여함을 시사한다.

arXiv:2605.31480v2cs.CL

언어 모델은 합성적으로 참조를 해석할 수 있지만, 그것이 본래의 강점은 아니다: Personal Relation Task 사례

Language Models Can Resolve Reference Compositionally, But It's Not Their Native Strength: The Case of the Personal Relation Task

LLM과 인간이 자연어의 합성적 해석(compositional interpretation)에서 어떻게 다른지 평가하기 위해, Personal Relation Task를 활용하여 지시 대상을 찾는 외연적 과제(Extensional task)와 형식 표현(예: friend(parent(amber)))을 생성하는 내포적 과제(Intensional task)에서 각각의 성능을 비교하였다. 실험 결과, 인간은 외연적 과제에서, LLM은 내포적 과제에서 더 높은 성능을 보였으며, 이는 LLM 학습에서 참조적 그라운딩(referential grounding)의 부재가 인간과 유사한 언어 이해를 모방하는 데 결정적으로 누락된 요소임을 시사한다.

arXiv:2607.05052v1cs.CL

독립 레이블을 넘어서: 인간 가치 탐지를 위한 슈바르츠 기하학적 디코딩

Beyond Independent Labels: Schwartz-Geometry Decoding for Human Value Detection

인간 가치 탐지는 일반적으로 19개의 정제된 슈바르츠 가치에 대한 문장 수준의 다중 레이블 분류(multi-label classification)로 공식화되며, 각 레이블은 독립적으로 예측된다. 그러나 슈바르츠 이론은 이 가치들을 원형의 동기적 연속체(circular motivational continuum)로 설명하며, 인접한 가치는 서로 양립 가능하고 대립하는 가치는 긴장 관계에 있다. 우리는 이 구조를 명시적인 출력 공간 기하학(output-space geometry)으로 구체화하여 하드 제약(hard constraint)이 아닌 소프트 바이어스로 활용할 수 있는지를 탐구한다. DeBERTa-v3-base 분류기를 대상으로, 이를 주입하는 두 가지 방법을 비교한다: 학습 시 기하학 인식 목적 함수(geometry-aware objectives)와 전체 레이블 집합을 공동으로 점수화하는 사후(post-hoc) 슈바르츠 인식 에너지 디코더(Schwartz-aware energy decoder). 5개의 시드에 걸쳐, 학습 시 기하학은 제한적인 성능 향상만을 보이며—진정한 연속체에 대해서도 무작위 순서 대비 더 크지 않은 수준이었다—반면 디코더는 우리가 새롭게 제안하는 이론 인식 일관성 지표에서 레이블 집합을 연속체에 더 일관되게 만들며, 선택 규칙에 의해 Macro-F1 및 Micro-F1은 유지된다. 이 성능 향상은 진정한 슈바르츠 순서에 특정적이며, 동일한 디코더를 통한 무작위 순열이나 경험적 공동 출현 그래프에서는 나타나지 않는다. 제한된 Qwen2.5-72B-Instruct 진단 실험은 추론 시 연속체를 제공하면 동작이 변하지만 지도 학습 기반 구조적 예측에는 미치지 못함을 보여준다. 따라서 이론 인식 디코딩은 가치 탐지를 해당 레이블 공간에 충실하게 만드는 경량의 제어 가능한 방법을 제공한다.

arXiv:2607.04690v1cs.CL

PAST-TIDE: 입장 감지를 위한 프로토타입 앵커 기반 구문 튜닝과 토픽 불변 정규화

PAST-TIDE: Prototype-Anchored Statement Tuning with Topic-Invariant Normalization for Stance Detection

우리는 NakbaNLP@LREC-COLING 2026의 StanceNakba 공유 태스크 두 서브태스크를 모두 다루는 입장 감지(stance detection) 시스템 PAST-TIDE를 소개한다. 핵심 아이디어는 구문 튜닝(statement tuning)이다. 우리는 입장을 빈칸 채우기 방식의 마스크 언어 모델링(MLM)으로 재정의하여, 무작위로 초기화된 분류 헤드를 추가하는 대신 사전학습된 MLM 헤드를 통해 버벌라이저(verbalizer)가 레이블 단어를 입장 범주에 매핑하도록 한다. 이를 보완하기 위해, 배치 크기에 독립적인 대조 학습을 위해 학습 가능한 클래스 프로토타입을 활용하는 프로토타입 대조 학습(prototypical contrastive learning)과, 교차 토픽 아랍어 입장 감지를 위한 토픽 조건부 층 정규화(topic-conditional layer normalization)를 함께 적용한다. PAST-TIDE는 공식 리더보드에서 서브태스크 A에 대해 0.75, 서브태스크 B에 대해 0.74의 매크로-F1 점수를 달성하였으며, 이는 사전학습 모델에 최소한의 구조적 추가만으로도 저자원(low-resource) 환경에서 경쟁력을 유지할 수 있음을 보여준다.

arXiv:2607.04523v1cs.CL

언어 통계로부터 핵심 개념적 구분을 학습하는 것의 실패와 성공

Failures and Successes to Learn a Core Conceptual Distinction from the Statistics of Language

"호랑이는 줄무늬가 있다"와 "자동차에는 라디오가 있다"와 같은 일반적 진술은 대체로 사실인 정보를 전달한다. 그러나 첫 번째 진술은 원칙적으로 참인 반면, 두 번째 진술은 통계적으로만 참이다. 사람들은 이 원칙적 참과 통계적 참의 구분에 매우 민감하다. 어떤 것이 범주 구성원이기 때문에 참인 경우와 단순한 통계적 규칙성 때문에 참인 경우를 구별하는 이 능력은 인간 개념 체계의 일반적 속성이며, 그 자체로는 학습될 수 없다는 주장이 있어 왔다. 본 연구에서는 원칙적 속성과 통계적 속성 간의 구분이 언어 자체로부터 학습될 수 있는지를 탐구한다. 만약 그렇다면, 언어 경험이 핵심 개념적 구분을 부트스트랩할 수 있으며 언어로부터 직접 정교한 인과 모델을 학습하는 것이 가능하다는 가능성이 제기된다. 우리는 언어 모델들이 모두 통계적 유병률(prevalence)에 민감하지만, 유병률을 통제한 상태에서 원칙적-통계적 구분을 표상하는 데 어려움을 겪는다는 것을 발견했다. GPT-4에 이르러서야 비로소 이 구분에 성공한다.

arXiv:2607.04011v1cs.CL

표현 학습과 재구성의 분리를 통한 확장 가능한 텍스트 인코더

Separating Representation from Reconstruction Enables Scalable Text Encoders

디코더가 빠르게 스케일링된 반면, 인코더는 BERT 이후 거의 변화가 없었다. 우리는 프로빙(probing)을 통한 동결 백본(frozen backbone) 평가로 이 불균형을 재검토한다. 이 관점에서, BERT 인코더의 표현은 퍼플렉서티(perplexity)가 개선됨에도 불구하고 동결 프로브에 의해 점점 활용 불가능해진다. 이 불일치는 표현 학습을 토큰 재구성 손실에 결합시키는 BERT의 평탄한 설계에서 비롯된다. 우리는 고품질 인코딩된 표현의 학습을 토큰 재구성의 엄격한 그라운딩으로부터 분리하는 두 부분으로 구성된 아키텍처인 CrossBERT를 제안한다. 이 설계는 또한 보완적 마스킹 전략(Complementary Masking Strategy)을 통해 높은 마스킹 비율(≥50%) 및 모든 토큰에 대한 그래디언트 수집을 가능하게 하여, 처리량을 각각 1.5~2배, 샘플 효율을 2배 향상시킨다. 전반적으로, CrossBERT는 MTEB(eng, v2) 및 동결 GLUE 벤치마크에서 단조로운 스케일링과 우수한 성능을 보인다.

arXiv:2607.03974v1cs.CL

TRACER: 작업 지향 대화를 위한 조기 실패 감지

TRACER: Early Failure Detection for Task-Oriented Dialogue

작업 지향 대화 시스템(task-oriented dialogue system)은 최종 실패가 명확해지기 전에 이미 오류가 발생하는 경우가 많지만, 대부분의 평가는 대화가 이미 잘못된 이후에야 실패를 측정한다. 본 논문에서는 작업 지향 대화의 조기 실패 감지를 위한 방법인 TRACER를 제안한다. TRACER는 부분적인 대화로부터 전체 대화가 결국 실패할지를 예측하며, 이를 위해 믿음 상태(belief-state) 변화에서 추출한 단순한 궤적 신호와 진화하는 대화 상태의 텍스트 표현을 결합한다. 본 방법은 오라클(oracle) 및 생성된 믿음 상태 설정 모두에서 평가되며, 대화의 25%, 50%, 75%, 100%만 관측 가능한 경우에 대해서도 성능을 검증한다. 이러한 설정 전반에 걸쳐 TRACER는 대화가 끝나기 훨씬 전에 유용한 실패 신호를 감지하며, 휴리스틱, 전통적 방법, 단일 스트림 기반 기준 모델을 능가한다. 이 결과는 조기 실패 감지가 상호작용이 완전히 붕괴되기 전에 대화 시스템에 실용적인 경고 신호를 제공할 수 있음을 시사한다.

arXiv:2607.03681v1cs.CL

코퍼스 데이터에서 한국어 관형어미 구성 주석: 관계절 식별을 넘어서

Annotating Korean adnominal ending constructions in corpus data: Beyond relative-clause identification

한국어 관형어미 ETM은 관계절형 수식어, 형용사형 및 서술격 형식, 의존명사 구성, 어휘화된 표현 등 다양한 명사 수식 구성에서 나타난다. 본 논문은 ETM이 관계절 구조의 직접적인 표지가 아니라, 여러 관형 구성이 공유하는 형태론적 실현체임을 주장한다. 우리는 술어 유형, 보조적 구조, 논항 구조적 호환성, 핵심 명사 제약, 어휘화 패턴을 기준으로 이들 구성을 구별하는 코퍼스 기반 유형론을 제안한다. 이 유형론을 KLUE 의존 트리뱅크에 대한 구성 민감 주석 층(layer)으로 운용화하였으며, 순서가 있는 규칙 기반 절차를 통해 구현하고 수동 검증(validation)으로 평가하였다. 생산적인 관계절형 용법은 분석된 사례의 39.4%를 차지하였으며, 나머지는 주로 형용사형, 서술격형, 의존명사형, 양상형, 시제형, 연어 구성으로 이루어진다. 이 결과는 한국어 관계절형 수식이 관형 형태론만으로는 식별될 수 없음을 보여준다.

arXiv:2607.03598v1cs.CL

모델은 당신이 의미한 바를 추론한다: 모델은 의사소통 의도를 행동보다 더 신뢰할 수 있게 표상한다

They Infer What You Meant: Models Represent Communicative Intent More Reliably Than They Act On It

사람이 언어 모델과 무언가를 공유할 때, 모델은 종종 발신자가 그것을 보낸 행위가 아닌 메시지의 표면에 답한다: 완성된 프로젝트를 공유하면 코드를 비평하고, 깊은 밤에 쓴 날 것의 글을 공유하면 정서 상태를 점검한다. 우리는 발신자의 의사소통 의도—그라이스식 '의미된 것(what-was-meant)'—를 일급 해석 가능성 객체로 취급하며, 이 실패가 견고한 표상 위에서의 판독(readout) 문제임을 보인다. 선형 프로브는 모델의 기본 패스 은닉 상태로부터 발신자의 의도—인식을 원하는지 평가를 원하는지—를 깔끔하고 표면과 무관하게 디코딩하며, 이는 6개 모델과 4개 계열에 걸쳐, 그리고 기본 체크포인트에서도 성립한다. 이 표상은 화용론적으로만 추론되는 의도와, 어휘적으로 명확한 두 번째 의도(지지 vs. 도움)로도 일반화된다. 행동 측면과 모든 인과 검증은 인식/평가 대조에서 확립되며, 여기서 변하는 것은 기본 출력이 의도에 따라 행동하는지 여부이다. 판독은 모델 내 층 깊이에서 표상보다 뒤처지며(의도는 출력을 구동하기 몇 층 전부터 디코딩 가능하다); 모델 간에는 기본적으로 의도에 따라 행동하는지 여부가 모델마다 달라, 우리가 스케일링 법칙으로 해석하지 않는 관찰된 계층화(6개 중 3개가 실패를 보임)가 나타난다. 격차가 있는 경우, 표상과 긴밀하게 연결된 방향—탐색된 층에서의 판별 방향—이 인과적 제어 수단이 된다: 이를 조향하면 명시적 지시와 동등하게, 프롬프트 없이도 의도된 행동이 회복된다. 이 방향은 피드백 제공 축에 거의 직교하므로, 일반적인 피드백 조절 장치가 아닌 표상된 의도를 경유하지만, 회복 용량에서 경유된 의도는 명시적 요청을 무효화할 수 있다. 우리는 명백한 무효화에 대한 통제를 통해 각 연결을 뒷받침하고, 귀무 결과를 확인 결과만큼 명확하게 보고한다.

arXiv:2607.03482v1cs.CL

SemEval-2026 Task 4의 Lacuna Inc.: 내러티브 유사성 분리를 위한 구조적 게이팅 상태 공간 모델

Lacuna Inc. at SemEval-2026 Task 4: Structurally Gated State-Space Models for Disentangling Narrative Similarity

본 논문에서는 내러티브 스토리 유사성 및 내러티브 표현 학습을 다루는 SemEval-2026 Task 4에 제출한 불변-변이 분리 상태 공간 모델(IVD-SSM, Invariant-Variant Disentangled State-Space Model)을 소개한다. 내러티브 유사성 평가는 특정 이름, 등장인물, 사물, 배경 등 구체적이고 표면적인 요소를 넘어 인과성과 플롯 전개의 추상적 패턴을 분리하여 비교해야 하는 심층적인 계산 과제다. 표준 트랜스포머의 이차적 병목 없이 이러한 확장된 인과 사슬을 모델링하기 위해, 하이브리드 상태 공간 모델(State-Space Model)인 Jamba-1.5-Mini를 활용한다. 이 백본을 기반으로, 새로운 미분 가능한 알고리즘 아키텍처인 구조적 게이팅 정렬(SGA, Structurally Gated Alignment) 헤드를 제안한다. SGA 헤드는 두 가지 스케일에서 작동한다: 높은 스트라이드의 매크로 경로(Macro-path)가 스토리의 거친 구조적 골격을 매핑하고, 이것이 게이팅 메커니즘으로 작용하여 전체 해상도의 마이크로 경로(Micro-path)를 필터링함으로써 의미적 노이즈와 표면적 키워드 중복을 능동적으로 억제한다. 쌍별 비교 판단(Track A)과 밀집 표현 학습(Track B) 모두에서 평가한 결과, 구조적 불변 요소를 어휘적 변이 요소로부터 명시적으로 분리하는 접근 방식이 심층 내러티브 이해를 위한 강건하고 원칙적인 프레임워크를 제공함을 입증한다.

arXiv:2512.20757v2cs.CL

TokSuite: 토크나이저 선택이 언어 모델 동작에 미치는 영향 측정

TokSuite: Measuring the Impact of Tokenizer Choice on Language Model Behavior

토크나이저는 언어 모델(LM)이 텍스트를 표현하고 처리하는 근본적인 기반을 제공한다. 토큰화의 중요성에도 불구하고, 토큰화의 영향을 독립적으로 측정하기 어렵기 때문에 LM 성능 및 동작에서 토큰화가 수행하는 역할은 충분히 이해되지 않고 있다. 이러한 필요를 해결하기 위해 우리는 TokSuite를 제시한다. TokSuite는 토큰화가 LM에 미치는 영향을 연구할 수 있도록 지원하는 모델 컬렉션과 벤치마크다. 구체적으로, 동일한 아키텍처, 데이터셋, 학습 예산, 초기화를 사용하되 서로 다른 기성 토크나이저를 적용한 14개의 사전학습 모델을 공개한다. 또한 원어민 주석자가 큐레이션한, 영어·중국어·페르시아어·이탈리아어·터키어에서의 실제 변형에 대한 모델 성능을 측정하는 다국어 강건성 벤치마크도 공개한다. TokSuite는 이를 통해 모델의 토크나이저 영향을 견고하게 분리할 수 있으며, 다양한 인기 토크나이저의 장단점을 규명하는 일련의 새로운 발견을 지원한다.

arXiv:2410.15135v5cs.CL

TrendFact: 자동 팩트체킹에서 핫스팟 인식을 위한 벤치마크

TrendFact: A Benchmark Towards Hotspot Perception in Automatic Fact-Checking

온라인 허위 정보의 급증과 함께, 자동 팩트체킹(AFC) 시스템으로서의 대규모 언어 모델(LLM)과 추론 대규모 언어 모델(RLM)이 신뢰할 수 있고 설명 가능한 검증을 위한 주요 패러다임으로 부상하고 있다. 그러나 본 연구의 실증적 분석에 따르면, 이 패러다임은 자원 제약 환경의 실세계 배포 시 심각한 위험 비대칭 문제에 직면한다. 사회적 영향력에 따라 추론 자원을 동적으로 배분하는 능력인 핫스팟 인식 능력(HPA, Hotspot Perception Ability)이 이 위험을 완화하는 데 필수적임에도 불구하고, 기존 벤치마크는 이러한 긴급한 평가 수요를 충족할 소셜 메타데이터와 평가 프레임워크를 갖추지 못해 AFC 시스템의 발전을 저해하고 있다. 이 격차를 해소하기 위해, HPA 및 세 가지 팩트체킹 태스크를 평가할 수 있는 최초의 벤치마크인 TrendFact를 제안한다. TrendFact는 트렌딩 플랫폼과 전문 데이터셋에서 수집한 7,643개의 엄선된 샘플과 366,634개의 항목으로 구성된 증거 라이브러리로 이루어진다. HPA 평가를 가능하게 하기 위해, 검증 추론의 신뢰성을 평가하는 설명 일관성 점수(ECS, Explanation Consistency Score)와 AFC 시스템의 전반적인 HPA를 정량화하는 핫스팟 주장 인식 지수(HCPI, Hotspot Claim Perception Index)라는 두 가지 새로운 지표를 제안한다. 광범위한 실험을 통해 기존 AFC 시스템이 TrendFact에서 제한적인 성능을 보임을 확인하였다. 나아가, 제안하는 FactISR 프레임워크는 RLM 기반 AFC 시스템의 HPA와 계산 효율성을 효과적으로 향상시킨다.

arXiv:2607.02307v1cs.CL

On the Role of Directionality in Structural Generalization

Several SLOG test categories explicitly involve directional distinctions (modifier position shifts, argument extraction positions), yet AM-Parser, the previous SOTA, uses an AM algebra whose operations do not encode direction. We redesign the symbolic backend around CCG directed types (deterministic CKY + single linear decoder, 30K learnable parameters). Under the same BERT-base encoder, the system achieves 75.9$\pm$6.4% LF exact match, surpassing AM-Parser (70.8$\pm$4.3%). Per SLOG's own category groupings, gains are highly directional: the CCG system outperforms AM-Parser on all 5 position-shift categories (+29.9pp), while AM-Parser outperforms on all 6 recursive-depth categories. Replacing the encoder with DeBERTa-v3-large yields 90.7$\pm$4.9%, with the largest encoder gains in recursive-depth categories, complementary to directionality's gains. Directional representations shift the bottleneck from the symbolic layer (AM-Parser's 0% category ceiling) to the neural layer, which improves with encoder upgrades.

arXiv:2607.02259v1cs.CL

BamiBERT: A New BERT-based Language Model for Vietnamese

BamiBERT는 PhoBERT의 한계(최대 256 서브워드 토큰, 외부 형태소 분석 필요)를 극복하기 위해 129GB 베트남어 코퍼스로 처음부터 사전학습된 BERT 기반 언어 모델로, 최대 2048 토큰의 컨텍스트 길이를 지원하며 원시 텍스트를 직접 입력받는다. 8개의 베트남어 벤치마크에서 15개 평가 지표 중 11개에서 최고 성능을 달성하여 "base" 크기 베트남어 인코더 중 새로운 최고 수준(state of the art)을 확립했다.

arXiv:2607.02049v1cs.CL

SPLIT: Cross-Lingual Empathy and Cultural Grounding in English and Ukrainian LLM Responses

위기 상황(스트레스, 공황, 고독, 내부 피난, 긴장)에서 대규모 언어 모델(LLM)의 영어-우크라이나어 간 공감 능력과 문화적 그라운딩을 평가하기 위해 500개 프롬프트로 구성된 SPLIT 벤치마크를 제안한다. 평가 결과 Gemini-2.5-Flash와 LLaMA-3.3-70B-Instruct는 우크라이나어 응답 시 성능이 저하된 반면 DeepSeek-V3는 비교적 안정적이었으며, 우크라이나어 텍스트 생성이 우크라이나어 정서 지원과 동일하지 않음을 실증적으로 보였다.