PyTorchKR Papers

최신 논문

총 11,108편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.27758v1cs.CL

Hard Negatives Reveal What Easy Negatives Hide: Cross-Lingual Harmfulness Representations Degrade with Resource Tier Under Hard Negatives

대규모 언어 모델(LLM)의 안전성 정렬(alignment)은 주로 영어로 학습되며, 최근 연구는 번역 후에도 기저의 유해성 표현이 유지된다고 보고한다. 영어로 학습된 프로브(probe)는 저자원 언어에서도 영어와 거의 동일하게 유해한 프롬프트와 무해한 프롬프트를 구분한다. 이는 다국어 거부(refusal) 실패가 표현 품질보다는 보정(calibration) 문제를 주로 반영한다는 증거로 해석되어 왔다. 우리는 이 결론이 부정 예(negative) 선택에 의존함을 보인다. 세 자원 등급에 걸친 아홉 개 언어에서, 무해한 프롬프트가 무관한 분포에서 온 경우(쉬운 부정 샘플, easy negatives)에는 전이가 거의 완벽함(AUROC > 0.98)을 재현한다. 유해 요청과 표면적으로 유사하지만 실제로는 무해한 XSTest 대조 프롬프트(어려운 부정 샘플, hard negatives)를 사용하면, 저자원 언어에서는 전이가 붕괴하는 반면 고자원 언어에서는 대체로 안정적이다. Qwen2.5-7B-Instruct에서 평균 AUROC 하락은 영어 0.003, 고자원 0.017, 중간 자원 0.042, 저자원 0.276까지 증가한다. 이 패턴은 Aya Expanse에서도 재현된다. 역번역 chrF 통제와 세 언어에 걸친 chrF 매칭 비교는 번역 품질이 효과를 설명할 가능성을 낮춘다. chrF를 통제한 뒤에도 붕괴는 남으며(partial r = 0.70, p = 0.03). 토크나이저 fertility는 붕괴와 상관하며 자원 등급 효과의 일부를 설명하지만 전부는 아니다. 결과는 쉬운 부정 샘플에서의 전이와 어려운 부정 샘플 하의 상당한 퇴화가 공존할 수 있음을 보여준다. 따라서 쉬운 부정 샘플만으로 평가하는 것만으로는 유해성 표현이 번역을 견디는지 확립할 수 없다.

arXiv:2609.27717v1cs.CL

SkillGym: 실제 문제 해결을 위해 인간의 스킬을 LLM에 내재화하기

SkillGym: Internalizing Human Skills into LLMs for Real-World Problem Solving

사람이 작성한 에이전트 스킬(skill)은 실제 문제 해결을 위한 풍부한 워크플로를 담고 있지만, 일반적으로 재사용 가능한 모델 역량으로 내재화되지 못한 채 추론 시점의 외부 지침으로만 사용된다. 본 논문에서는 이러한 스킬을 대규모 언어 모델 에이전트를 위한 실행 가능하고 검증 가능한 학습 환경으로 변환하는 프레임워크인 \texttt{SkillGym}을 소개한다. SkillGym의 스킬-태스크 파이프라인은 구체적인 태스크를 생성하고, 코드 기반 검사기로 결과를 검증하며, 대조 실행(contrastive execution)을 통해 스킬에 대한 경험적 의존도를 평가한다. 우리는 12개 범주에 걸쳐 2,756개의 환경을 구축하여 공개하고, 여러 모델과 하네스(harness)에서 성공한 궤적(trajectory) 8,364개를 수집했으며, 이 궤적은 평균 49회의 도구 호출과 6만 개가 넘는 로깅된 텍스트 토큰으로 구성된다. 이러한 자원은 검증된 워크플로에 대한 지도 미세조정과 결과 기반 보상을 사용하는 강화학습을 지원한다. Claude Code 환경에서 지도 미세조정은 Qwen3.5-35B-A3B의 성능을 GDPval-AA v2에서 199 Elo, Terminal-Bench 2.1에서 19.10%p 향상시켰으며, SkillsBench v1.1에서는 스킬을 사용한 경우와 사용하지 않은 경우 각각 28.13점과 12.38점 향상시켰다. 35B 규모의 \texttt{SkillGym-Agent}는 스킬을 활용한 SkillsBench에서 51.47\%를 달성하여 Claude Sonnet 4.6, GPT-5.4 Mini, DeepSeek V4 Pro의 보고된 점수를 넘어선다. 또한 스킬 없이도 Codex와 Claude Code 환경에서 스킬을 활용한 기본 모델들을 능가하며, 이는 재사용 가능한 절차적 역량을 시사한다.

arXiv:2609.27678v1cs.CL

같은 점수, 다른 결정: 법률 문서 이해를 위한 JEV와 언어 모델 평가

Same Scores, Different Decisions: Evaluating JEV and Language Models for Legal Document Understanding

계약 추론은 하나의 공유 문서에 대한 여러 판단을 필요로 하지만, 집계 정확도는 개별 결정의 변화를 가릴 수 있다. 반복된 일치만으로도 충분하지 않으며, 모델이 지속적으로 잘못된 답을 반환할 수 있다. 본 논문에서는 ContractNLI에서 Jev와 아홉 개의 언어 모델을 비교하며, 추론 비용, 응답 시간, 평균 정확도, 반복 요청 조건에서의 정확도를 평가한다. 통제된 비교에서는 계약과 목표 판단을 고정한 채 가설 가시성, 요청된 출력, 출력 순서를 달리한다. 평가된 구성 중 Jev는 최저 비용과 중간값 응답 시간을 보이는 반면, 호스팅된 언어 모델은 더 높은 기준선 정확도를 달성한다. 기준선 정확도에 따른 순위는 모든 조건과 반복에서 정확도에 따른 순위와 다르며, 후자에서의 작은 차이가 일반적인 안정성 우위를 입증하지는 않는다. 개발 진단은 상쇄하는 수정과 퇴행뿐 아니라 지속적인 오류도 추가로 드러낸다. 이러한 결과는 요청 구성이 바뀔 때 개별 판단이 여전히 올바른지와 함께 비용과 응답 시간을 평가할 필요를 제기한다. Code: https://github.com/ZF-Utokyo/Jev-Benchmark

arXiv:2609.27603v1cs.CL

컨텍스트가 오도할 때: 대규모 언어 모델의 관할권을 갖춘 문맥 내 학습

When Context Misleads: In-context Learning with Jurisdiction in Large Language Models

문맥 내 학습(In-Context Learning, ICL)은 현대 LLM 배포의 핵심 요소가 되었다. 그러나 기존의 ICL 사후 학습 방법에는 중대한 맹점이 있다. 이러한 방법은 데모에서 패턴을 추출하는 데는 뛰어나지만, 컨텍스트 권한(context authority), 즉 문맥 정보가 최종 답변을 좌우해야 하는지를 판단하는 능력은 소홀히 하는 경우가 많다. 이 능력을 벤치마킹하기 위해, 우리는 7개 도메인에 걸친 사이비 과학적 주장을 담은 FakeContextBench를 소개한다. 상용 모델과 오픈소스 모델을 평가한 결과, 대규모 사전학습만으로는 신뢰할 수 있는 컨텍스트 권한 판별에 충분하지 않음을 확인했다. 더욱이 널리 쓰이는 ICL 미세조정 방법은 오도하는 컨텍스트에 대한 취약성을 높일 수 있으며, 기반 모델 대비 현실 정확도(reality accuracy)를 최대 14.95%p까지 떨어뜨렸다. 이러한 상충 관계를 해결하기 위해, 우리는 컨텍스트 검증을 학습 목적 함수에 포함하는 사후 학습 프레임워크인 Jurisdiction In-Context Learning(J-ICL)을 제안한다. 네 가지 모델 백본에서 J-ICL은 해당 기반 모델 대비 ICLEval을 평균 5.84%p, 현실 정확도를 9.20%p 향상시켰다. 또한 MetaICL 및 Symbol Tuning 대비 Reality Rate를 평균 18.09%p 높였다. 이러한 결과는 ICL 능력과 기만적 컨텍스트에 대한 저항성을 함께 향상시킬 수 있음을 보여준다. 벤치마크는 https://github.com/peilin717/FakeContext-Bench 에서 확인할 수 있다.

arXiv:2609.27590v1cs.CL

MWE-ECL: 복원 가능한 장거리 문맥이 국소적 어휘 사전확률을 항상 무시하지는 않는다

MWE-ECL: Recoverable Long-Range Context Does Not Always Override Local Lexical Priors

장문맥(long-context) 평가는 흔히 모델이 원거리 증거를 복원할 수 있는지를 테스트하지만, 복원 가능성이 행동적 영향을 보장하지는 않습니다. 본 연구에서는 원거리 담화 앵커가 명시적으로 복원 가능하더라도 익숙한 다의어 표현(multiword expression)의 국소적으로 선호되는 해석을 변경하는 데 실패할 수 있다는 예측을 검증합니다. 이러한 실패는 모델의 앵커 없는 기본값(no-anchor default)이 앵커와 충돌할 때 집중적으로 나타나는 반면, 사전확률에 부합하는 올바른(prior-correct) 결정은 대체로 유지되어야 합니다. 우리는 짝지어진 앵커 검색, 앵커 없는 사전확률, 해석 프롬프트가 각각 명시적 복원 가능성, 모델 관측 기본값, 앵커 조건부 결정을 측정하는 이중언어 진단 도구인 MWE-ECL(Multiword Expression Effective Context Length)을 제안합니다. 공유된 0-128K 그리드 상의 8개 영어 배포 패널 전반에서, 사전확률 충돌 항목에 대한 검색 통제 정확도는 0.989-1.000, 사전확률 충돌 재정의(override)는 0.806-1.000(올바른 검색을 조건부로 한 경우 0.809-1.000), 사전확률 부합 결정의 보존율은 0.977-1.000으로 유지됩니다. 단일 프롬프트에서 검색과 해석을 질의하는 단일 호출(same-call) 대조군은 DeepSeek V4 Pro에 대해 격차(1.000 검색 대비 0.900-0.920 해석)를 재현하여, 개별 호출이 이러한 격차의 유일한 설명이 아님을 보여주며, 다른 두 모델에서 나타난 더 작거나 없는 격차는 그 일반성의 범위를 한정합니다. DeepSeek V4 Flash의 경우, 개별 프롬프트 적합도 테스트에서 512K 및 1M에서 완벽한 검색 능력을 유지하면서도 낮은 해석 능력을 보인 반면, 오답 유도 단서(foil-consistent cues)는 검색보다 앵커 없는 사전확률을 훨씬 더 크게 변화시켰으며, 모델 간 단서 효과는 이질적이었습니다. 별도로 보고된 10개 계열의 중국어 하위 집합도 유사한 기술적 격차를 보이지만, 일부 모델의 불완전한 검색 능력으로 인해 이를 오로지 통합(integration) 문제만으로 귀인하는 것은 어렵습니다. 따라서 MWE-ECL은 명시적으로 복원 가능한 원거리 문맥이 경쟁적인 국소 의미 결정을 변화시키는지 여부를 평가합니다.

arXiv:2609.27510v1cs.CL

Uncheatable Eval: 압축 기반의 동적 언어 모델 평가

Uncheatable Eval: Dynamic Compression-Based Evaluation of Language Models

최신 대규모 언어 모델(LLM)은 방대한 데이터셋으로 사전학습되기 때문에, 벤치마크 데이터가 학습 세트에 포함되는 것을 막기 어렵고 이로 인해 평가 결과의 신뢰성이 훼손됩니다. 특히 베이스 모델은 인스트럭션 수행 능력이 제한적이어서 태스크 기반 평가가 복잡해지므로, 신뢰할 수 있는 평가가 더욱 어렵습니다. 본 논문에서는 새로 공개된 텍스트를 정기적으로 수집하여 베이스 언어 모델을 평가하고 데이터 오염(data contamination) 위험을 줄이는 동적 벤치마크인 Uncheatable Eval을 소개합니다. 모델의 예측 능력과 데이터를 무손실로 압축하는 능력 사이의 관계에 착안하여, 모델이 새로운 텍스트를 얼마나 잘 예측하는지를 압축률(compression rate)로 평가합니다. 14개 텍스트 카테고리에 걸쳐 80개 모델을 평가하고, 컨텍스트 길이에 따라 압축 성능이 어떻게 변하는지 분석하며, 압축률과 제로샷 MMLU 정확도 간의 상관관계를 살펴봅니다. 그 결과 세 가지 주요 발견을 얻었습니다. (1) 압축 성능은 모델 크기에 따라 일관된 스케일링 경향을 따릅니다. (2) 어텐션 기반 모델, 하이브리드 모델, 순환 모델은 더 많은 컨텍스트가 주어질 때 압축 성능이 변화하는 양상이 서로 다릅니다. (3) 압축률이 낮을수록 제로샷 MMLU 정확도가 높은 경향이 강하게 나타납니다. 코드는 https://github.com/Jellyfish042/uncheatable_eval 에서 확인할 수 있습니다.

arXiv:2609.27418v1cs.CL

EviStreams: 의학 분야 체계적 문헌고찰을 위한 인간 참여형(Human-in-the-Loop) AI 데이터 추출

EviStreams: Human-in-the-Loop AI Data Extraction for Systematic Reviews in Medicine

체계적 문헌고찰은 임상 지침의 기반이 되지만, 그 데이터 추출 단계는 프로토콜화된 워크플로에 얽매여 있어 주요한 전문가 노동 병목 구간으로 작용합니다. 즉, 두 명의 검토자가 각 연구를 독립적으로 추출하고, 조정자(adjudicator)가 불일치를 해결하며, 연구팀은 모든 값이 어떻게 도출되었는지에 대한 감사 가능한 기록을 유지해야 합니다. 대규모 언어 모델(LLM)이 추출을 지원할 수 있으나, 이러한 지원은 확립된 고찰 프로토콜에 부합하고 재현성을 유지해야 합니다. 본 연구에서는 검토 팀이 프로그램 설계(코드 실행 전 승인되는 구조화된 분해), 필드 명세(파일럿을 통해 보정된 타입이 지정된 필드 정의), 추출된 예측값(조정을 거치는 검토자 블라인드 이중 검토)이라는 세 가지 핵심 단계에서 AI 지원 추출을 직접 제어할 수 있도록 하는 실시간 오픈소스 노코드 웹 플랫폼인 EviStreams를 소개합니다. 도메인 전문가는 폼 빌더(form builder)를 통해 프롬프트 대신 타입이 지정된 필드를 정의하고, 업로드된 PDF를 대상으로 추출을 실행하며, 근거가 되는 원문 구절과 함께 각 값을 검사하고, 검토자 블라인드 이중 검토를 해결하여 감사 가능한 합의 결과물로 내보냅니다. 시스템과 함께 공개된 4개의 임상 코퍼스 및 3개의 프론티어 모델 계열에 걸친 평가 결과는 추출 품질이 모델의 선택보다 필드 명세에 의해 훨씬 더 크게 좌우됨을 보여줍니다. EviStreams는 https://evistreams.com/demo 에서 실시간으로 제공되며 Apache-2.0 라이선스로 공개되었습니다.

arXiv:2609.27396v1cs.CL

병렬 Drafter가 병렬 추측 디코딩을 만날 때

When Parallel Drafter Meets Parallel Speculative Decoding

DSpark 스타일의 병렬 drafter는 추측 디코딩(speculative decoding)을 매우 효과적으로 만들었지만, draft 단계는 여전히 매 라운드 임계 경로(critical path)에서 직렬로 실행된다. 병렬 추측 디코딩(PSD)은 drafting과 검증(verification)을 겹치게 하지만, 기존 방법은 수용된 접두 문맥(prefix)과 보너스 토큰(bonus token)을 미리 추측해야 하며, 잘못된 추측은 전체 배치를 직렬 drafting으로 되돌린다. 우리는 효과적인 병렬 drafter를 재사용하면서도 매 라운드마다 백본–검증 겹침을 보장해 이러한 확률적 fallback을 완전히 없애는 PSD 프레임워크인 DPara를 제안한다. target이 검증하는 동안 DPara의 diffusion 백본은 보너스를 정하지 않은 채 모든 acceptance boundary에 대한 draft representation을 미리 계산하고, 경량 자기회귀(autoregressive) head가 드러난 검증 결과와 대응하는 사전 계산 representation을 결합해 다음 라운드의 draft 토큰을 거의 즉시 내보낸다—지배적인 백본 forward를 검증과 완전히 병렬화하고 무시할 수 있는 head 비용만 직렬로 남긴다. Qwen3-8B와 Qwen3-14B에 대해 수학·코딩·채팅 벤치마크 7개에서의 실험은 DPara가 자기회귀 디코딩 대비 평균 $3.21\times$ 및 $3.52\times$ 속도 향상을 달성하며, 가장 강한 직렬·병렬 추측 디코딩 baseline을 모두 능가함을 보여준다.

arXiv:2609.27359v1cs.CL

하이브리드 RAG와 로컬 배포 대규모 언어 모델을 활용한 처리활동기록부(RoPA) 자동 추출

Automated Extraction of Records of Processing Activities (RoPA) Using Hybrid RAG and Locally Deployed Large Language Models

2026년 1월 1일부터 시행되는 베트남 개인정보 보호법(법률 제91/2025/QH15호)과 시행령 제356/2025/ND-CP호는 조직이 처리활동기록부(Records of Processing Activities, RoPA)를 작성하고 유지하도록 요구한다. RoPA를 수작업으로 작성하는 것은 많은 노동력이 필요하며, 클라우드에서 호스팅되는 대규모 언어 모델(LLM)은 데이터 주권 요건과 충돌할 수 있다. 본 논문은 tsvector 기반 어휘 순위화, 밀집 벡터(dense-vector) 검색, 상호 순위 융합(Reciprocal Rank Fusion, RRF), 그리고 로컬에 배포된 LLM을 결합한 하이브리드 검색을 사용하여 RoPA 정보를 자동으로 추출하는 시스템인 RoPA Manager를 제안한다. 또한 32개 조직, 77개 처리 활동, 12개 필드 그룹, 4,338개 참조 값으로 구성된 베트남어 RoPA 벤치마크를 소개한다. 평가는 세 가지 서로 다른 수준에서 보고한다. LLM을 호출하지 않고 교란된 데이터로 테스트한 자동 채점기는 F1 = 0.9493 [0.9436, 0.9548]을 달성했으며, 이는 종단 간 추출 정확도가 아니라 채점기의 견고성을 측정한 것이다. 종단 간 추출은 참조 레이블 대비 50.04-55.25%의 토큰 커버리지를 달성했다. 두 명의 독립적인 전문가가 1,558개의 참조 값(벤치마크의 35.9%)을 검토한 결과 잘못된 값은 발견되지 않았으며, 99.68%의 일치도와 PABAK = 0.9936을 기록했다. 값 수준의 정밀도는 측정하지 않았다. 24GB GPU에서 32개의 쌍체 시나리오에 걸쳐 평가한 결과, 로컬에 배포된 Qwen3.5-27B-GPTQ-Int4는 클라우드 기반 DeepSeek-V4-Flash와 통계적으로 유의한 차이를 보이지 않았으나(DeepSeek 쪽이 0.20 퍼센트 포인트 우세, 95% CI [-0.93, 1.32], p = 0.72), Gemma-4-31B는 유의하게 더 낮은 성능을 보였다(p < 0.01).

arXiv:2609.27353v1cs.CL

행동을 유발하는 가이드: 멀티모달 웹 에이전트의 가이드-행동 상호 강화에 관한 오프라인 연구

Guides That Cause Actions: An Offline Study of Guide-Action Mutual Reinforcement in Multimodal Web Agents

웹 에이전트(Web agent)는 주로 라이브 환경에서 평가되는데, 실행 간에 환경 상태와 판정 모델이 드리프트(drift)하여 동일한 체크포인트가 동일한 점수를 재현하기 어렵기 때문에 학습(training) 현상에 대한 통제된 연구가 사실상 불가능합니다. 본 논문에서는 성공적인 WebArena 궤적에서 파생된 541개 태스크와 5,293개 스텝으로 구성된 오프라인 벤치마크인 WebMRE를 제시합니다. 이 벤치마크는 완전히 검증된 테스트 라벨과 환경 없이도 모든 실행에서 체크포인트를 동일하게 평가하는 결정론적 프로토콜을 갖추고 있습니다. 각 스텝은 인간 지향적인 가이드 문장과 그라운딩된(grounded) 행동을 결합하여, 웹 에이전트에서 이 둘 사이의 상호 강화(mutual reinforcement) 효과에 대한 최초의 연구를 가능하게 합니다. 세 개의 시드에 걸쳐 평균을 냈을 때, 이 효과는 두 모델 모두에서 두 디코딩 순서 모두에 걸쳐 유지되며 스케일링에 따라 증가합니다. 즉, 가이드를 공동 디코딩하면 행동 전용 기준선 대비 요소 선택 점수가 Qwen3.5-4B의 경우 0.9 및 0.2 포인트 상승하고, Qwen3.5-9B의 경우 1.7 및 2.2 포인트 상승합니다. 매개 분석(mediation analysis)에 따르면 가이드는 단순한 설명이 아닌 인과적 경로임이 밝혀졌습니다. 정답 가이드를 디코딩 접두 문맥(prefix)으로 강제하면 행동 정확도가 .422에서 .684로 상승하는 반면, 다른 스텝의 가이드를 주면 .055로 급락하며, 타깃을 변경한 패러프레이즈(paraphrase)도 이득의 절반을 회복하므로 이 경로가 라벨 문자열뿐만 아니라 인스트럭션의 의미를 전달함을 보여줍니다. 동일한 경로를 통해 재생 가능한 프로토콜에서만 계산 가능한 오프라인 보상(reward)이 생성되지만, 강력한 체크포인트로부터 이를 최적화하는 것은 아직 이득을 가져오지 못합니다. 본 연구에서 파인튜닝된 모델은 모든 오프라인 지표에서 제로샷(zero-shot)으로 실행된 GPT-5.5, Claude Opus 4.8 및 Gemini 3.5 Flash를 능가합니다.

arXiv:2609.27233v1cs.CL

트랜스포머 언어 모델의 순차 연산 증류

Distilling Sequential Computation in Transformer Language Models

트랜스포머 언어 모델은 자기회귀적으로 시퀀스를 토큰 단위로 처리하므로, 컨텍스트가 길어질수록 비용이 점점 커진다. 그러나 인접한 많은 토큰 구간은 예측 가능성이 높거나 안정적인 단위로 자주 등장하여, 이들의 표현은 압축 가능할 수 있음을 시사한다. 우리는 입력 토큰 구간을 경량 merge 모듈이 즉석에서 계산하는 축약 표현으로 대체함으로써 순차 연산을 증류하는 방법을 제안한다. 이 모듈은 정적 토큰 임베딩 시퀀스로부터 여러 토큰의 기능적 역할을 포착하는 단일 대리 임베딩을 생성하여, 사전학습된 모델이 아키텍처 변경이나 재학습 없이 압축된 입력으로 동작할 수 있게 한다. 이 접근법을 추론 시 프롬프트와 중간 디코딩 단계 모두를 압축하는 데 적용하며, 롤백 메커니즘으로 저장된 다중 토큰 KV 캐시 항목을 단일 단계 대리 표현으로 대체한다. 다양한 모델에 걸친 실험에서 merge 모듈을 사용하면 언어 모델링 평가와 질의응답, 요약, 상식 추론, 장문 수학적 추론 등 다운스트림 과제에서 정확도 저하를 최소화하면서 유효 시퀀스 길이를 최대 40%까지 줄일 수 있음을 보였다. merge 모듈에 대한 추가적인 경량 적응은 일부 설정에서 정확도-압축 트레이드오프를 더욱 개선한다. 이 결과는 트랜스포머에서의 순차적 토큰 연산이 모델 갱신 없이 원래 동작을 근사하는 응축된 대리 표현을 통해 효과적으로 근사될 수 있음을 보여준다.

arXiv:2609.27205v1cs.CL

사용자 생성 텍스트의 음소화: 벤치마크, 분류 체계 및 조합적 접근

Phonemizing User-Generated Text: A Benchmark, Taxonomy, and Compositional Approach

텍스트 음성 변환 시스템은 ppl, imo와 같은 사용자 생성 텍스트(UGT)를 점점 더 많이 처리하며, 이러한 텍스트의 발음은 표면 형태가 아니라 정규(canonical) 형태로부터 추론해야 한다. 우리는 영어, 베트남어, 한국어 UGT를 위한 최초의 grapheme-to-phoneme(G2P) 벤치마크 UGTPhon과, 세밀한 진단을 위한 추론 기반 분류 체계를 제안한다. 기존 G2P 모델과 최신 프론티어 LLM은 체계적인 정규-비정규 성능 격차를 보이며, 최대 66.8 PER points에 이른다. 벤치마크 기준선으로, exact-match lookup과 단계적 디코딩(staged decoding)을 통해 정규 형태 증거를 통합하는 단순한 조합적 G2P 접근법을 제안한다. 매칭된 ByT5 및 Qwen2.5-0.5B 백본 전반에서 명시적 정규 형태 모델링은 비정규 G2P 오류를 일관되게 줄인다. 0.5B 변형은 훨씬 더 큰 퓨샷(few-shot) 프론티어 LLM과도 경쟁력 있는 성능을 보이며, UGT 음소화를 위해 정규 형태 추론을 명시적으로 모델링하는 이점을 부각한다.

arXiv:2609.27165v1cs.CL

문장이 아닌 증거를 세어라: 장문 텍스트 가치관 측정을 위한 LLM 판단의 템퍼드 증거 융합(Tempered Evidence Fusion)

Count Evidence, Not Sentences: Tempered Evidence Fusion of LLM Judgments for Long-Text Value Measurement

대규모 언어 모델(LLM)은 긴 소셜 미디어 게시물로부터 대중의 가치 지향을 측정하는 데 점점 더 많이 사용되고 있으나, 이러한 게시물에는 배경 설명, 인용, 양보 표현이 섞여 있고 입장을 드러내는 문장은 소수에 불과한 경우가 많다. 기존 접근법은 모델이 문서 수준 레이블을 직접 예측하도록 하여 과신(overconfident)에 빠질 수 있거나, 문장 수준 예측을 다수결(majority voting) 또는 소프트 보팅(soft voting)으로 집계하여 불확실한 문장과 결정적인 문장을 동등하게 유용한 정보로 취급한다. 본 논문은 장문 텍스트 가치관 측정을 의사결정 융합(decision-fusion) 문제로 정식화하고, 일반화 베이지안 사후분포(generalized Bayesian posterior)로부터 도출된 정규화된 정보 이득(information gain)으로 각 문장의 로그 오즈(log-odds)에 가중치를 부여하는 학습이 필요 없는(training-free) 규칙인 템퍼드 증거 융합(Tempered Evidence Fusion, TEF)을 제안한다. 이를 통해 불확실한 문장에 대해서는 융합 점수가 거의 0에 가까워지면서도, 결정적인 증거에 대해서는 베이즈 최적 가중치가 유지된다. 또한 5년에 걸친 공공 사건과 여섯 가지 가치 차원을 아우르는 중국어 및 영어 게시물 8,358건으로 구성된 벤치마크인 Multi-event Insight Network Dimensions(MIND)를 새롭게 소개한다. MIND에서 TEF는 다섯 개의 LLM과 두 언어에 걸쳐, Direct, Majority Vote, Soft Vote 중 가장 강력한 기준선(baseline)보다 평균 4.5 정확도 포인트, 4.6 macro-F1 포인트 높은 성능을 보였다. MIND 데이터셋과 코드는 https://github.com/Kzczc/ICASSP2027-TEF 에서 확인할 수 있다.

arXiv:2609.27156v1cs.CL

합당한 곳에 기여도 부여하기: 효율적인 추론을 위한 중복 인식 학습

Giving Credit Where It's Due: Redundancy-Aware Learning for Efficient Reasoning

대규모 추론 모델은 정확하면서도 불필요하게 긴 추론 궤적을 생성할 수 있습니다. 기존 방법들은 궤적 수준의 목표나 국소적인 토큰(token) 및 스텝 수준의 신호로 추론 효율성을 개선하지만, 스텝 간의 의미적 의존성을 모델링하는 경우는 드뭅니다. 이는 이후의 연역을 뒷받침하는 스텝과 불필요한 스텝을 구분하는 능력을 제한하여, 정확도를 희생하지 않고 추론을 단축하는 것을 더 어렵게 만듭니다. 우리는 추론 구조 내에서 스텝의 다운스트림 역할과 문제를 올바르게 해결하는 데 기여한 정도를 모두 기반으로 합당한 곳에 기여도를 부여함으로써 이러한 한계를 해결하는 RECAP(REdundancy-aware Credit Assignment via Propagation)을 소개합니다. 우리는 결과 독립적이고 대규모 언어 모델(LLM)이 주석을 단 의미적 의존성 그래프를 통해 최종 답변 노드(node)로부터 역방향으로 전파되는 기여도를 사용하여 이후 추론이 해당 스텝에 얼마나 강하게 의존하는지 측정함으로써, 스텝의 다운스트림 역할을 포착하는 구조적 책임을 정의합니다. 그러나 어떤 스텝은 높은 구조적 책임을 가지면서도 추론을 정답에서 벗어나게 유도할 수 있습니다. 따라서 RECAP은 각 스텝이 추가됨에 따른 정답 로그 가능도(likelihood)의 변화를 통해 정답 지향적 진전을 측정하는 스텝 효능을 도입합니다. 이 신호들은 함께 롤아웃(rollout) 수준의 GRPO 어드밴티지를 스텝별 업데이트로 재구성합니다. RECAP은 별도로 학습(training)된 프로세스 보상 모델(reward model)이나 사전에 구축된 간결한 궤적을 모두 필요로 하지 않습니다. 두 개의 7B 모델(model)과 네 개의 수학적 추론 벤치마크(benchmark) 전반에서 RECAP은 정확도-효율성 트레이드오프를 개선합니다. Qwen2.5-Math-7B에서 네 개 벤치마크 모두에 걸쳐 GRPO 대비 추론 토큰을 8%-31% 줄이면서 pass@1을 2.0-3.7 퍼센트포인트 향상시킵니다. 분석에 따르면 이러한 절감은 더 압축된 표현보다는 더 적은 추론 연산과 덜 막다른 추론을 반영함을 시사합니다.

arXiv:2609.27064v1cs.CL

팩트 검증 점수가 향상되면 무엇이 달라지는가? 학습된 검증기와 LLM 전반에 걸친 증거 및 답변 분해 분석

What Changes When Fact-Verification Scores Improve? Evidence and Answer Accounting Across Trained Verifiers and LLMs

결합 팩트 검증 점수(joint fact-verification score)는 답변과 제출된 증거를 함께 평가한다. 점수가 향상될 때, 답변을 고정하면 그 향상분 중 얼마나 남는가? FEVEROUS에서 엄격 점수(strict score)는 정답을 맞히고 제출된 증거에 주석이 달린 완전한 증거 그룹이 포함된 주장(claim)의 비율(%)이다. 학습된 DeBERTa 체크포인트 4개와 7,890개의 주장에 걸쳐, DCUF 증거를 UnifEE 증거로 교체하면 엄격 점수는 9.61%p 상승하는 반면 답변 정확도는 1.96%p 상승한다. 엄격 점수 향상에 대한 쌍체(paired) 95% 구간은 [8.77, 10.43]이며, 이는 해당 체크포인트들을 조건으로 한다. DCUF 또는 UnifEE 증거에서 생성된 답변을 각각 유지한 채 스코어러에 전달되는 증거만 교체하면, 각각 7.92%p 또는 9.08%p가 설명된다. 이러한 증거 향상이 평가 선택에 따라 어떻게 달라지는지 살펴보기 위해, 두 개의 8B LLM으로 FEVER, FEVEROUS, SciFact 데이터셋에서 두 가지 답변 형식과 두 가지 컨텍스트 예산 조건 아래 470,400개의 응답을 생성한다. 컨텍스트를 256 토큰에서 2,048 토큰으로 늘리면 FEVEROUS에서 답변 고정 증거 향상이 Qwen과 Llama에서 각각 3.84%p와 3.10%p 상승한다. 이 효과는 사전에 지정한 데이터셋 간 기준에 미치지 못하며, 일부 구간은 2%p 소효과 한계를 넘어선다. 사후 분석(post-hoc analysis)은 답변과 제출된 증거의 변화를 정량화하고, 집계 정확도와 증거 포함률(evidence-coverage rate)이 주장 수준의 패턴을 놓치는 경우를 보여준다. 답변-증거 점수의 네 가지 조합은 종단 지표(endpoint metric)와 집계 지표가 해소하지 못하는 변화를 드러낸다.

arXiv:2609.27043v1cs.CL

EduBehaviors: 교육적 대화의 감사 가능한 코딩을 위한 단언(assertion) 기반 스키마

EduBehaviors: Assertion-based Schemas for Auditable Coding of Educational Dialogues

대규모 언어 모델(LLM)은 관심 구인(construct)에 해당하는 교육학적 주석의 신속한 배포를 가능하게 했으며, 대화형 데이터셋(dataset)에서 분류를 생성하기 위한 자연어 인터페이스를 제공한다. 그러나 LLM 추론의 불투명한 특성 때문에, 모델(model)이 발화에 대해 특정 레이블을 선택한 이유에 대한 검증 가능하고 기계적인(mechanistic) 통찰을 얻을 수 없다. 우리는 EduBehaviors 프레임워크를 제안한다. 이는 해석 가능하고 확장 가능한(scalable) 교육 데이터 주석 접근법으로, LLM을 사용해 많은 관심 구인과 관련된 반복적 관측 가능 행동(observable behaviors)을 측정한 뒤, 이러한 관측 가능 행동을 바탕으로 해당 구인에 대한 분류기(classifier)를 학습한다. TalkMoves 데이터셋에서 프레임워크를 평가하며 Teacher TalkMoves 레이블을 예측한다. 최적 구성은 macro-F1 0.673과 Cohen's kappa 0.688을 달성하여 직접 프롬프팅(direct prompting) 접근법과 경쟁력 있는 성능을 보였다. 또한 연구자가 자체 데이터에서 EduBehaviors 프레임워크를 운영적으로 구현할 수 있게 하는 두 가지 도구인 EduBehaviors Toolkit을 공개한다.

arXiv:2609.27014v1cs.HC

ContraVis: 법률 계약서 내 모순 검토를 위한 증거 기반 시각적 분석

ContraVis: Evidence-Grounded Visual Analytics for Contradiction Review in Legal Contracts

법률 계약서는 멀리 떨어져 있고 서로 연결된 조항들 간에 모순이 발생할 수 있는 구조적으로 복잡한 문서입니다. 대규모 언어 모델(LLM)이 법률 언어 이해를 향상시켰음에도 불구하고, 모순 분석은 여전히 인간 중심적이며 증거에 기반한(evidence-grounded) 검토 작업으로 남아 있습니다. 본 연구에서는 법률 계약서 내 인간 참여형(human-in-the-loop) 모순 분석을 위한 시각적 분석 시스템인 ContraVis를 소개합니다. 이 시스템은 명시적인 계약 참조와 문단 간의 의미론적 관계를 결합하여 계약서를 타입화된 문단 그래프(typed paragraph graph)로 모델링합니다. 이 그래프는 이중 역할을 수행합니다. 즉, LLM의 추론을 조건화(conditioning)하는 동시에 분석가가 탐색하는 대화형 표현 역할을 하여, 조율된 뷰 전반에서 모델 컨텍스트와 인간의 검토가 일치되도록 유지합니다. 통제된 비교 실험에서 그래프 조건부 추론은 계약서 길이가 길어짐에 따라 독립형 LLM 분석보다 더 많은 주입된 모순을 복구해 낸 동시에, 분석가의 검증을 위한 추가 후보를 드러냈습니다. 계약 분야 변호사들을 대상으로 한 형성 평가 연구(formative study)는 문맥 내 증거 비교가 모순 검증을 뒷받침함을 보여주었으며, 본 연구에서는 증거 기반의 LLM 보조 문서 검토를 위한 설계 시사점을 도출합니다.

arXiv:2609.27009v1cs.CL

LEGO: 법률 추론을 위한 Expert GraphRAG와 Expert Chain-of-Thought의 시너지

LEGO: Synergizing Expert GraphRAG and Expert Chain-of-Thought for Legal Reasoning

대규모 언어 모델(LLM)은 법률과 같은 고위험 영역에 점점 더 적용되고 있으나, 복잡한 법률 추론은 두 가지 구조적 난제로 여전히 제한된다. 첫째, 기존 RAG 및 GraphRAG 방법은 어휘적 또는 의미적 유사성을 강조하는 반면, 법조문 간의 규범적 관계를 간과한다. 둘째, 기본 사고의 연쇄(Chain-of-Thought) 프롬프팅은 법률 추론의 규범적 구조를 강제하지 않은 채 그럴듯한 근거를 생성할 수 있다. 법률 추론 영역의 파이프라인 병목을 해결하기 위해, 우리는 복잡한 법률 추론을 위해 Legal Expert GraphRAG와 expert Chain-of-thought를 상호 보완적으로 결합하는 이중 모듈 프레임워크인 LEGO를 제안한다. ExpertGraphRAG는 전문가 주석이 달린 민법 그래프에 이러한 규범적 관계를 인코딩하고, 탐욕적 규범 커버리지(normative-coverage) 검색 알고리즘을 사용하여 사례별 조문 부분 그래프를 동적으로 추출한다. 반면 ExpertCoT는 검색된 조문과 사건 사실을 구조화된 조문-사실-결론(Provision-Fact-Conclusion) 추론으로 구성한다. Qwen3-8B 백본을 사용할 때 LEGO는 LawExamQA_Civil에서 40.53% exact-match 정확도를 달성하여, 평가한 RAG 및 CoT 베이스라인을 능가하고 평가한 더 큰 모델들과 유사한 성능을 보이며, 다중 홉 질문에서도 견고성을 유지한다. 또한 개방형 벤치마크에서 평가한 베이스라인 중 최고 결과를 달성한다. 절제 연구(ablation studies)는 두 모듈의 개별적이고 상호 보완적인 기여를 확인하며, LLM의 복잡한 법률 추론 능력 향상에서 LEGO의 효과를 보여준다. 코드와 데이터셋은 다음 링크에서 확인할 수 있다: https://github.com/BLK-WHT/LEGO

arXiv:2609.26976v1cs.CL

학습된 컨텍스트 플래닝이 강력한 검색을 이기지 못할 때: 롱 컨텍스트 QA를 위한 플래닝, 라우팅, 리랭킹의 통제 연구

When Learned Context Planning Fails to Beat Strong Retrieval: A Controlled Study of Planning, Routing, and Reranking for Long-Context QA

학습된 컨텍스트 플래닝(context planning)은 답변 모델(answer model)이 추론하기 전에 증거 단위(evidence atoms)를 선택한다. 본 연구에서는 강력한 검색(retrieval), 라우팅(routing), 예산 제한 선택기(budgeted-selector), 리랭킹(reranking) 통제 조건을 적용한 후에도 이러한 학습된 선택이 롱 컨텍스트 객관식 QA 성능을 향상시키는지 검증한다. 주요 진단 실험은 Qwen2.5-7B-Instruct를 사용하여 LongBench-v2의 객관식 문항 503개 전체에 대해 수행한다. 플래너(planner)는 학습 문항 140개와 개발 문항 28개에서 결과 기반으로 선택된 트레이스(trace)를 이용해 SFT로 학습되었으며, 503개 문항 분석에 이 문항들이 포함되므로 부분적으로 트랜스덕티브(transductive)하다. 18k 문자 예산에서 앵커드 하이브리드 검색(anchored hybrid retrieval)은 36.18%의 정확도를, BM25는 35.98%를 달성한 반면, 플래너 기반 직접 방식 중 최고 성능은 34.19%였다. 사용하지 않은 152개 문항의 테스트 분할에서도 앵커드 하이브리드가 더 높은 성능을 보였다(42.11% 대 36.84%). 누수 방지(leakage-safe) 라우터는 큰 오라클(oracle) 격차를 실제 성능으로 전환하지 못한다. 예산이 빠듯한 조건에서 최고의 플래너는 6k에서 0.40%p 앞서는 데 그치고 9k에서는 뒤처지며, 플래너 기반 리랭킹은 6k에서 +1.79%p의 추정치를 보이나 쌍체(paired) 신뢰구간이 0을 포함하고 9k에서는 통제 조건과 동률이다. 패킹 순서(packing-order) 및 점수 평탄도(score-flatness) 분석에서는 안정적인 메커니즘을 확인하지 못했다. 이 설정에서 학습된 플래닝은 강력한 검색을 대체하는 것이 아니라 약한 관련성 신호에 그친다.

arXiv:2609.26945v1cs.CL

문장 수준에서의 법해석 기준 분류: 독일 연방헌법재판소 판결 기반 벤치마크

Classifying Interpretive Canons at the Sentence Level: A Benchmark from the German Federal Constitutional Court

사법적 추론은 대규모 언어 모델(LLM)이 분석하기에 여전히 까다로운 영역입니다. 본 논문은 사비니(Savigny)의 전통에 입각해 라렌츠(Larenz)가 체계화한 법해석 기준(interpretive canons)을 분류하는 LLM의 능력을 평가하기 위한 문장 수준의 벤치마크를 제시합니다. 본 연구의 기여는 세 가지입니다. 첫째, 이러한 법해석 개념을 분류(classification) 기준으로 구체화하여 작동 가능하게 만들었습니다. 둘째, 문장 수준에서 주석이 달린 독일 연방헌법재판소 결정 데이터셋(dataset)을 제공합니다. 셋째, 유전-파레토(Genetic-Pareto, GEPA)로 최적화된 프롬프트와 비교하여, 전문가가 직접 작성한 프롬프트 환경에서 3개 모델 계열의 4개 LLM에 대한 기준선(baseline) 평가를 보고합니다. 7개의 이진 하위 과제에 대한 평균 F1 점수는 모델(model) 전반에서 70.4에서 79.2 사이에 분포하며, 문법적 해석이 대체로 식별하기 가장 쉬운 기준인 반면 체계적 해석은 일반적으로 가장 어려웠습니다. 테스트된 구성에서는 GEPA로 최적화된 프롬프트가 직접 작성된 프롬프트를 일관되게 능가하지 못했으며, 이는 전문가 프롬프트가 유의미한 기준선을 제공함을 시사합니다.