PyTorchKR Papers

최신 논문

총 11,108편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.22766v1cs.LG

Shapley를 넘어서: LLM 정렬 및 평가를 위한 영향 기반 데이터 감사 파이프라인

Beyond Shapley: An Influence-Based Data Auditing Pipeline for LLM Alignment and Evaluation

대규모 언어 모델(LLM)의 정렬은 점점 더 데이터 품질에 의해 병목이 발생하고 있다. 데이터셋이 확장됨에 따라, 방대한 선호(preference) 및 인스트럭션 튜닝(instruction tuning) 코퍼스에는 필연적으로 숨겨진 구조적 모순, 안전성(safety) 위험, 체계적인 인간 어노테이션 오류가 누적된다. 의미 중복 제거(semantic deduplication)나 LLM-as-a-judge와 같은 표준 데이터셋 감사 방법은 개별 레코드의 실제 예측적 영향을 포착하기 어렵고, 종종 깊은 기능적 규칙 충돌을 놓친다. 이를 해결하기 위해, 우리는 반복적 모델 재학습 없이 Shapley value를 근사하는 확장 가능하고 추론 전용 데이터 가치 평가 파이프라인을 제안한다. 의미적 k-NN 이웃을 방향 그래프로 매핑함으로써, 우리 프레임워크는 제로샷(zero-shot) 및 원샷(one-shot) 조건부 로그 가능도(log-likelihood) 변화를 사용하여 참조 LLM의 확률 분포를 통해 데이터 유틸리티를 직접 평가한다. 우리 파이프라인은 이러한 예측적 영향 점수를 국소화된 advantage 지표로 변환하여 그래디언트 충돌 레코드를 분리한다. 우리는 두 개의 철저히 검증된 정렬 데이터셋을 정화하는 데 있어 파이프라인의 효과를 입증한다. 첫째, HelpSteer2 데이터셋에 우리 파이프라인을 적용하면 수동 감사 탐색 공간을 99.1% 줄였으며, 다양한 실패 모드에 걸쳐 잘못 라벨링된 레코드를 성공적으로 발견했다. 둘째, Anthropic의 HH-RLHF 학습 및 평가 분할에 자동화된 감사 전략을 적용하면 수천 건의 숨겨진 안전성 및 사실적 선호 역전(preference inversion)을 식별했다. 결정적으로, 이 감사를 평가 분할로 확장함으로써 현재 벤치마크 무결성의 심각한 취약점을 드러낸다: 고성능 모델은 더 안전하거나 더 도움이 되는 응답을 자주 예측하지만, 객관적으로 결함이 있는 인간 정답(ground-truth) 라벨에 의해 페널티를 받는다. 전반적으로, 우리 연구는 인간 라벨 실패를 밝혀내고, 평가 벤치마크를 정화하며, LLM 정렬 데이터의 무결성을 보장하는 수학적으로 근거 있는 고효율 진단 도구를 제공한다.

arXiv:2607.22757v1cs.LG

대규모 언어 모델에서의 계층적 등급화

Hierarchical Grading in Large Language Models

우리는 트랜스포머의 표현 공간에 등급(grading)을 부여하고, 그로 인해 유도된 가중 스칼라 작용을 임베딩, 셀프 어텐션, 그리고 학습 목표 함수 전반에 전파하는 대수적 프레임워크인 등급화 대규모 언어 모델(Graded Large Language Models, GLLM)을 제안한다. 이 구성은 등급화 신경망(graded neural networks) 및 등급화 트랜스포머(graded transformers) 이론을 자기회귀(autoregressive) 언어 모델로 확장하면서, 표현력, 점근적 계산 복잡도, 그리고 추론 비용을 보존한다. 지배적인 기하학적 그림은 기하 불변 이론(geometric invariant theory)에 해당한다. 등급화의 이점은 등급화 토러스(grading torus) 위의 Kempf-Ness 함수로 표현된다. 균일(uniform) 아키텍처보다 나은 등급(grades)들은 개방 볼록 원뿔(open convex cone)을 이루며, 그 소속 여부는 등급 방향을 목표(target)와 데이터의 두 가지 측정 가능한 프로파일(profile)과 짝지어 비교하는 Hilbert-Mumford형 기준에 의해 결정된다. 최적 등급은 두 moment map의 일치점이며, 폐형식(closed form)으로 주어진다. 그리고 일반적인 트랜스포머는 원뿔 경계 위의 반안정(semistable) 등방(isotropic) 점으로 나타난다. 즉, 두드러진 최적점이라기보다 더 큰 등급화 계열의 한 구성원이다. 별도로, 수준 계층화(level-stratified) 목표에 대해 등급화 사전분포(prior)와 그 부재 사이의 minimax 분리를 증명한다. 모든 추정량(estimator)에 걸쳐, 등급화된 목표 클래스와 균일 목표 클래스의 위험(risk)은 명시적인 표본 크기(sample size) 구간 전체에서 분리되며, 기하학적 계층화(geometric stratification) 하에서 수준(level) 수에 대해 지수적으로 감쇠하는 인자만큼 분리된다. 두 프로파일 모두 오프라인으로 추정 가능하므로, 최적 등급은 학습이 시작되기 전에 검증된 볼록 프로그램(convex program)을 풀어 구한다. 등급화는 학습 후 학습된 파라미터에 흡수되므로, 모든 GLLM은 동일한 아키텍처와 추론 복잡도를 갖는 표준 트랜스포머로 컴파일된다.

arXiv:2607.22724v1cs.LG

장기 호라이즌 에이전트 과제를 위한 진행 상태 조건 그룹 정책 최적화

Progress-conditioned Group Policy Optimization for Long-Horizon Agentic Tasks

그룹 기반 정책 최적화는 그룹 내 궤적(trajectory) 또는 스텝(step)을 비교하여 희소한 결과 보상(sparse outcome reward)으로부터 대규모 언어 모델(LLM) 에이전트를 학습하는 데 점점 더 널리 사용되고 있다. 그러나 어려운 장기 호라이즌 과제에서는 이러한 비교가 샘플링 불균형(sampling imbalance)에 시달릴 수 있다. 반복되거나 효과가 낮은 행동(action)이 정책(policy)의 고확률 영역을 지배하는 반면, 유용한 상태 변화(state-changing) 행동은 과소 샘플링(under-sampled)된 채로 남는다. 이 불균형은 많은 전부 실패(all-failed) 롤아웃 그룹을 만들어내며, 이때 결과 보상은 정책을 수정하는 방향을 제공하지 못한다. 이러한 효과들이 함께 작용하면 자기 강화(self-reinforcing) 크레딧 함정(credit trap)을 형성할 수 있다. 실패가 지배하는 샘플링은 결과 기반 수정을 낳지 않아, 반복되는 저효과 행동이 지속되도록 한다. 이 순환을 끊기 위해, 우리는 진행 상태 조건 그룹 정책 최적화(Progress-conditioned Group Policy Optimization, ProGPO)를 제안한다. ProGPO는 그룹 내 모든 샘플이 결과 보상 0을 받을 때에만 첫 방문 관측(observation) 커버리지(first-visit observation coverage)를 사용한다. 구체적으로, 이러한 그룹 내에서 ProGPO는 더 많은 새로운 상태(state)를 방문하는 궤적 또는 스텝에 더 높은 상대적 advantage를 부여한다. 새로운 관측에 도달하는 것은 과제 성공의 전제 조건이기 때문이다. Qwen2.5-1.5/7B-Instruct를 사용한 ALFWorld 및 WebShop이라는 두 가지 도전적인 에이전트 벤치마크(benchmark)에서의 실험은 ProGPO가 그룹 기반 베이스라인(baseline) 대비 일관되게 개선됨을 보여주며, 특히 어려운 과제에서 큰 향상을 보인다.

arXiv:2607.22711v1cs.LG

CORVUS: LLM 코딩 에이전트를 위한 기저 동기화 기반 컨텍스트 최적화 및 축소

CORVUS: Context Optimization and Reduction Via Underlying Synchronization for LLM Coding Agents

LLM 코딩 에이전트는 추론, 도구 호출, 결과를 누적하는 궤적(trajectory)을 구성하여 다단계 의사결정을 가능하게 합니다. 그러나 실무에서 사용되는 기존의 append-only 궤적 아키텍처는 파일 읽기 동작과 그 관측 결과를 긴밀하게 결합하여, 시간순 기록에 영구적으로 고정되는 스냅샷을 캡처합니다. 에이전트 편집이나 동시에 이루어지는 사용자 수정으로 파일이 변경되면 이러한 스냅샷은 오래되어 추론 오류를 유발하고, 에이전트가 불필요하게 파일을 다시 읽게 되며, 재읽기마다 궤적에 또 다른 사본이 추가됩니다. 이를 완화하기 위해, 우리는 관련 파일의 동기화된 레지스트리를 유지하고 각 추론 주기마다 현재 내용만 주입함으로써 파일 읽기 동작과 관측 결과를 분리하는 새로운 궤적 아키텍처인 CORVUS를 제안합니다. 이 구조적 변경은 실제 코드베이스 상태와 구조적으로 동기화된 훨씬 가벼운 궤적을 생성하여, 기존 궤적을 비대하게 만드는 중복 파일 사본과 오래된 스냅샷을 제거합니다. 우리는 네 가지 LLM에서 SWE-POLYBENCH_VERIFIED 및 SWE-BENCH PRO에 대해 CORVUS를 평가하였으며, 작업당 평균 입력 토큰을 9-50% 감소시키고, 최종 프롬프트를 15-32% 단축하며, 추론 주기를 최대 37% 줄이면서도 유사한 통과율을 유지하였습니다.

arXiv:2607.22545v1cs.LG

Semalith v1.4: Llama-Guard-3-8B 대비 매개변수 44배 적은 보정 184M 안전 분류기로 SOTA 프롬프트 인젝션 탐지 달성

Semalith v1.4: A Calibrated 184M Safety Classifier Achieving State-of-the-Art Prompt-Injection Detection at 44x Fewer Parameters than Llama-Guard-3-8B

금융 서비스 및 에이전트 환경에서 대규모 언어 모델(LLM)을 배포하려면 프롬프트 인젝션, 규제 준수, 일반 유해를 동시에 처리하는 안전 분류기가 필요하지만, 기존 공개 가드레일 중 단일 추론 패스로 이 조합을 처리하는 것은 없다. Semalith v1.4는 단일 순전파로 프롬프트 인젝션, 일반 유해, 금융 서비스 규제 준수를 포함한 3축 안전 분류를 동시에 수행하는 184M 매개변수 DeBERTa-v3-base 분류기이다. 22클래스 헤드(BENIGN, 프롬프트 인젝션 하위 유형 9개, general-harm, BFSI 레이블 11개)는 공동 가중 손실 하에 4클래스 보조 상위 카테고리 헤드와 함께, 49개 공개 출처에서 채굴된 76,204행 코퍼스로 학습되었으며, 모든 홀드아웃 평가 세트에 대해 SHA-1 중복 제거를 적용했고, 22개 벤치마크 중 21개는 오염이 0(최대 0.22%)이다. 22개 홀드아웃 벤치마크에서 Llama-Guard-3-8B와 비교할 때, Semalith v1.4는 매개변수 44배 적음에도 프롬프트 인젝션 평가(7/7)에서 모두 승리하고 전체 18개 벤치마크 중 11개에서 우수하며, 208개의 무해한 에이전트 프롬프트에서 FPR = 0.000(Llama-Guard-3-8B는 0.063)을 기록했다. 일반 유해 벤치마크(WildGuardMix, HEx-PHI, HarmBench)에서는 Llama-Guard-3가 앞서며, 이러한 상보적 분할은 Section 4에 기술되어 있다. 6가지 측정된 약점은 Section 6에 공개되어 있다. 배포 가이드: 대화형 조정 배포에는 v1.3을 권장한다(ToxicChat F1 0.624); BFSI 레이블 커버리지 또는 무해한 에이전트 프롬프트에서의 zero-FPR이 우선일 때는 v1.4를 권장한다.

arXiv:2607.23505v1cs.NE

유전 프로그래밍 심볼릭 회귀에서 제로샷 LLM 생성 부모 선택 벤치마킹

Benchmarking Zero-Shot LLM-Generated Parent Selection in Genetic Programming for Symbolic Regression

부모 선택은 심볼릭 회귀를 위한 유전 프로그래밍(GP)에서 탐험, 활용, 복잡도 제어에 중요한 영향을 미친다. 대규모 언어 모델(LLM)이 반복적 메타 진화 없이 제로샷 설정에서 효과적인 연산자를 합성할 수 있는지는 불분명하다. 여기서 제로샷이란 모델이 참조 연산자나 반복적 피드백 없이 작업 설명만 받는 것을 의미한다. 본 연구에서는 심볼릭 회귀를 위한 표준 GP 프레임워크 내에서 8개 LLM에 걸쳐 부모 선택 연산자의 제로샷 합성을 벤치마킹한다. 각 모델은 부모 선택 연산자를 생성하기 위해 동일한 자연어 프롬프트를 받으며, 생성된 연산자는 부모 선택 연산자만 교체된 표준 GP 프레임워크에서 평가되고, 다른 모든 구성 요소와 진화 탐색 예산은 일정하게 유지된다. 각 LLM에 대해 10개의 독립적인 제로샷 연산자를 12개 OpenML 회귀 벤치마크에서 평가하고, 자동 lexicase 및 토너먼트 선택 기준선과 비교한다. Claude Sonnet~4.6과 Gemini~3.1 Pro는 학습 및 홀드아웃 테스트 $R^2$ 모두에서 일관되게 강한 성능을 보여 두드러진다. 벤치마크에서 가장 강한 연산자인 Kimi~K2.5 제로샷 합성은 탐색 효과성에서 자동 lexicase 및 토너먼트 선택 기준선을 능가한다. 이 결과는 제로샷 LLM 합성이 경쟁력 있는 GP 선택 연산자를 생성하는 실행 가능한 접근법임을 시사한다. 분석에 따르면 생성된 연산자 중 다수가 선택을 안내하기 위해 semantics를 사용하며, 이는 LLM이 작업 설명만으로 비자명한 탐색 휴리스틱을 생성할 수 있음을 시사한다. 또한 공개 LLM 리더보드 순위와 GP 성능 간의 관계를 조사한다. Humanity's Last Exam, SWE-bench Verified와 같이 널리 사용되는 벤치마크는 학습 $R^2$와 강한 상관관계를 보이지만, 홀드아웃 테스트 $R^2$와의 관계는 더 약하고 덜 명확하다.

arXiv:2607.24720v1cs.CL

다중 턴 장기 계획의 물리학: 단일 및 다중 교사 온-정책 에이전트 증류를 통한 사전학습에서 사후 학습까지

The Physics of Multi-Turn Long-Horizon Planning: From Pre-training to Post-training via Single- and Multi-Teacher On-Policy Agentic Distillation

다중 턴 장기 계획은 파운데이션 모델 에이전트에게 중요하지만, 이를 근본적으로 개선하는 방법은 아직 불분명하다. 기존 모델은 통제 불가능하고 불투명한 인터넷 데이터로 학습되어, 계획 능력이 어떻게 습득·형성·통합되는지 파악하기 어렵다. 이 문제에 대응하기 위해 정밀한 통제를 가능하게 하는 통합된 통제형 다중 턴 환경을 제안한다. 이를 통해 세 단계에 걸친 장기 계획을 체계적으로 연구할 수 있다. (1) 사전학습 중 계획 능력 습득. 데이터 형식, 분포, 품질을 연구한다. 사고의 연쇄(CoT) 상태 전이 모델링을 통한 명시적 세계 모델(world model) 구축은 더 강한 장기 일반화를 제공한다. 원자적 스킬만으로는 조합적 일반화에 불충분하며, 소량의 장기 데이터가 효과적이다. 또한 차선의 궤적은 장기 구간에서 오류가 증폭되기 때문에 성능을 심각히 저해한다. (2) GRPO 및 OPD 사후 학습을 통한 계획 능력 형성. 상호 정보량(mutual information)을 통해 일반적 계획 패턴과 과제 특화 계획 지식을 구분한다. 계획 패턴에 대해 사후 학습의 세 가지 적용 영역—불필요, 유효, 미지원—을 식별한다. OPD는 더 일관된 갱신 방향을 제공하므로 저품질 및 장기 설정에서 GRPO보다 더 넓은 유효 영역을 갖는다. 계획 지식에 대해, 상이한 지식을 가진 교사로부터 보지 못한 절차를 증류하면 새로운 지식을 완전히 확립하지 못한 채 학생의 기존 세계 모델링을 손상시킬 수 있다. (3) MOPD 사후 학습을 통한 계획 능력 통합. 다중 교사 온-정책 증류(MOPD)가 환경 간 공유 계획 패턴으로 수렴함으로써 능력을 통합함을 보인다. 호환 가능한 패턴은 환경 간 일반화를 가능하게 하고, 부분적으로 공유된 패턴은 지속 학습(continual learning)을 지원하며, 완전히 상충하는 패턴은 심각한 간섭을 유발한다.

arXiv:2607.24717v1cs.CL

DataOrchestra: 사전학습 데이터의 예제별 큐레이션 오케스트레이션 학습

DataOrchestra: Learning to Orchestrate Per-Example Curation of Pretraining Data

사전학습 데이터 처리는 대규모 언어 모델(LLM)의 하류 성능에 매우 중요하다. 그러나 기존의 많은 접근법은 코퍼스 또는 도메인 수준에서 고정된 처리 전략을 정의하고, 각 예제의 필요에 맞게 적응하지 않은 채 많은 예제에 균일하게 적용한다. 우리는 다양한 처리 연산을 통합하고 각 예제에 대해 예제별 파이프라인을 오케스트레이션하는 프레임워크인 DataOrchestra를 제안한다. 사전학습 데이터의 청크가 주어지면, 오케스트레이터는 이를 삭제(drop), 그대로 두거나(untouch), 정제(clean)할지 결정한다. 정제 대상 청크에 대해서는 프로그래밍 기반 편집부터 다양한 형태의 LLM 기반 재작성까지, 하나 이상의 하류 연산을 선택한다. 각 재작성 단계마다 구체적인 인스트럭션을 추가로 생성하며, 이는 해당 하류 도구 모델이 실행한다. DataOrchestra로 처리한 웹 데이터로 0.5B부터 7B까지의 모델을 처음부터 사전학습하고, 11개 벤치마크에서 개별 데이터 처리 방법 대비 안정적인 평균 성능 향상을 관찰한다. DataOrchestra는 수학 연속 사전학습(continued pretraining)에도 효과적이며, 더 강한 처리 베이스라인을 능가하면서 불필요한 하류 연산을 건너뛰어 처리 연산량을 줄인다.

arXiv:2607.24688v1cs.DB

스케일과 생성을 넘어: 언어 모델 기반 엔티티 매칭 이해

Beyond Scale and Generation: Understanding Language Model-based Entity Matching

엔티티 매칭은 동일한 실세계 엔티티를 가리키는 레코드를 식별하는 작업이다. 언어 모델은 bi-encoder, cross-encoder, generative matcher 아키텍처를 통해 이 작업에 적용할 수 있다. 그러나 선행 연구들은 종종 매처 아키텍처와 모델 백본, 모델 변형(서로 다른 사전학습 목표를 반영), 모델 크기의 차이를 혼동하여 성능 향상의 원인을 분리하기 어렵게 한다. 우리는 Qwen3 패밀리의 세 가지 매처 아키텍처, 세 가지 모델 변형, 세 가지 모델 크기, 그리고 아홉 개의 데이터셋에 걸친 통제된 요인 실험을 통해 이 문제를 해결하며, 총 1,215회의 미세조정 실행을 수행한다. 또한 데이터셋 간 전이 가능성과 계산 비용을 평가한다. 결과는 bi-encoder에서 모델 변형이 핵심적임을 보여준다: 임베딩 지향 변형은 더 강한 초기화와 하위 매칭 성능을 예측하는 더 유리한 표현 기하학을 제공한다. cross-encoder는 각 레코드를 독립적으로 표현하는 대신 레코드 쌍을 공동으로 인코딩하기 때문에 bi-encoder 대비 일관된 이점을 유지하며, 더 큰 모델이 이 격차를 부분적으로 줄이기는 한다. generative matcher는 보편적으로 cross-encoder를 능가하지 않는다. 대신 그들의 이점은 레코드 스키마의 미묘한 미관측 차이와 데이터셋 간 전이를 포함한 분포 이동(distribution shift) 하에서 집중된다. 우리는 더 큰 모델이 단축 학습(shortcut learning)에 더 크게 의존하므로 반드시 더 나은 성능을 내지는 않는다는 점도 추가로 밝힌다. 이러한 발견은 매처 아키텍처 간 성능 차이를 뒷받침하는 요인을 명확히 하고, 분포 이동과 데이터셋 간 전이 가능성을 명시적으로 평가하면서 아키텍처 선택과 모델 수준 요인을 더 잘 분리하는 미래 연구 및 벤치마크 설계를 촉진한다. 우리는 실험 결과, 코드, 학습 스크립트, 평가 데이터를 https://github.com/Jantory/llm-trained-matcher 에서 공개한다.

arXiv:2607.24593v1cs.CL

PIVOT: 토큰 수준 희소 어텐션을 위한 효율적인 쿼리 그룹 인덱싱

PIVOT: Efficient Query-Group Indexing for Token-Level Sparse Attention

토큰 수준 희소 어텐션은 프로덕션 시스템에서 DeepSeek Sparse Attention(DSA)으로 구현된 것처럼, 하류 어텐션을 효율적으로 만들지만 병목을 이를 공급하는 인덱서로 옮긴다. 각 쿼리에 대해 top-k 토큰을 선택하려면 인덱서는 여전히 모든 선행 토큰을 점수화해야 하며, 길이 L의 시퀀스에 대해 층당 O(L^2)의 비용이 발생한다. 우리는 이러한 쿼리별 스캔이 대부분 중복됨을 관찰한다. 인접한 쿼리들은 높은 수준으로 겹치는 top-k 토큰을 선택하고, 인덱서 점수는 키 축을 따라 롱테일 분포를 보인다. 우리는 이러한 특성을 PIVOT(Proxy Indexing Via One full-prefix Traversal)에서 활용한다. PIVOT은 학습 없이 DSA 인덱서를 대체할 수 있는 드롭인 방식으로, 인접한 쿼리 그룹 전체에서 하나의 접두 문맥 스캔을 공유한다. PIVOT은 그룹을 단일 프록시 쿼리로 집계하고, 하나의 공유 전체 접두 문맥 스캔을 수행하여 후보 집합을 얻은 뒤, 그 집합에서 각 쿼리에 대한 top-k를 선택한다. 두 가지 변형은 속도와 충실도 사이의 트레이드오프를 제공한다. PIVOT-Reuse는 최대 속도를 위해 그룹 전체에서 프록시 top-k를 공유하는 반면, PIVOT-Refine은 각 쿼리의 인덱서로 후보 집합을 재점수화한 후 개별 top-k를 선택하여, 작은 추가 비용으로 밀집 인덱서와 동일한 결과를 낸다. 단일 알고리즘이 두 추론 단계를 모두 포괄하며, 그룹 형성 방식만 다르다. 프리필(prefill)에서는 연속 쿼리의 고정 크기 그룹을 사용하고, 디코드(decode)에서는 하나의 다중 토큰 예측(MTP) 단계에서 함께 디코딩되는 쿼리들을 사용한다. DeepSeek-V3.2와 GLM-5.1에서 LongBench 및 RULER 전반에 걸쳐 PIVOT은 밀집 DSA 인덱서와 동일한 정확도를 달성하면서 인덱서를 최대 4배 가속하고, 긴 문맥에서 end-to-end 지연 시간을 최대 1.6배 감소시킨다.

arXiv:2607.24586v1cs.CL

D-Score: 대규모 언어 모델의 환각 탐지를 위한 스펙트럴 은닉 상태 신호

D-Score: A Spectral Hidden-State Signal for Hallucination Detection in Large Language Models

대규모 언어 모델(LLM)은 유창한 텍스트를 생성할 수 있지만, 그 내용이 거짓이거나 이용 가능한 증거에 의해 뒷받침되지 않거나, 모델 내부에 표상된 것으로 보이는 정보와 불일치할 수 있다. 우리는 은닉 활성화의 기하학으로부터 환각 탐지를 연구하고, 단일 순전파에서 계산되는 간단한 스펙트럴 통계량인 D-Score를 제안한다. 고정된 모델, 층, 및 허용 오차 매개변수에 대해, D-Score는 은닉 활성화 행렬의 특이 방향 중 선행 특이값에 가깝게 유지되는 특이값을 가진 방향의 개수를 센다. 우리는 이 양을 환각 점수로 사용하여, D-Score가 사전 정의된 양보다 클 때 입력 텍스트를 환각으로 분류한다. 동기는 다음과 같다: 모델이 자체 내부 상태에서 이용 가능한 정보와 충돌하는 텍스트를 처리할 때, 은닉 표현이 주장된 내용과 어떤 형태의 반증, 불확실성, 수정, 또는 근거 부족을 함께 인코딩할 수 있으며, 이는 은닉 궤적이 추가적인 특이 방향으로 퍼지게 만들 수 있다. 우리는 이 직관을 경량 스펙트럴 논증으로 형식화하고, FAVA-Annotation과 RAGTruth에서 결과 탐지기를 평가한다. 실험은 D-Score가 외부 검증기, 검색 단계, 다중 생성 없이도 환각 탐지를 위한 강력한 은닉 상태 신호임을 보여준다.

arXiv:2607.24585v1cs.CL

데이터에서 디바이스까지: ELMOD, 모바일 추론을 위한 효율적인 독일어 우선 2.7B 언어 모델

From Data to Device: ELMOD An Efficient German-First 2.7B Language Model for Mobile Inference

우리는 ELMOD(Efficient Language Model for On-Device Deployment, 온디바이스 배포를 위한 효율적 언어 모델)를 제안한다. 이는 자원이 제한된 하드웨어에서 효율적인 추론을 위해 설계된 소형(2.7B) 독일어 언어 모델이다. ELMOD는 공개적으로 이용 가능한 데이터만을 사용하여 제한된 연산 예산(55k H100 GPU 시간)으로 학습되었다. 우리는 형태론적 변이, 합성어, 철자 규칙 처리 방식에서 영어 중심 방식과 다른 독일어 특화 데이터 전처리 절차를 개발했다. 또한 품질 필터링 및 재구성(rephrasing) 단계를 도입하여 데이터의 교육적 품질을 높였고, 어닐링(annealing) 단계의 성능을 개선하며 전체 연산 요구량을 줄였다. 사전 필터링을 포함한 아키텍처 모델 및 데이터 선택, 교육적 품질을 높이기 위한 교육적 품질 필터링 및 재구성 덕분에 ELMOD는 동일 크기(<3B) 클래스에서 가장 강력한 성능을 보이며, 독일어에서 7B 매개변수 모델의 성능과 맞먹는다.

arXiv:2607.24492v1cs.CL

SINT-Flow: 대규모 언어 모델(LLM) 워크플로를 이용한 스키마 통합

SINT-Flow: Schema Integration using Large Language Model Workflows

스키마 통합의 목표는, 입력 스키마 또는 테이블 집합이 주어졌을 때, 모든 입력 테이블의 개념, 속성, 관계를 일관되게 표현할 수 있는 전역적이고 통합된 스키마를 도출하는 것이다. 본 논문은 SINT-Flow를 제안한다. SINT-Flow는 다섯 개의 LLM 기반 연산자로 구성된 스키마 통합 프레임워크로, 이 연산자들을 워크플로로 결합하여 완전 자동화된 end-to-end 스키마 통합을 수행할 수 있다. 기존 접근법과 달리 SINT-Flow는 여러 엔티티 유형을 설명하는 속성을 포함하는 비정규화된 소스 테이블을 처리할 수 있다. 스키마 통합 과정에서 이러한 테이블은 별도의 엔티티별 관계로 분해된다. SINT-Flow를 평가하기 위해, 본 연구는 SINT-Bench를 도입한다. SINT-Bench는 10개의 스키마 통합 작업으로 구성된 스키마 통합 벤치마크로, 총 93개의 관계형 테이블을 포함하며, 여러 유형의 엔티티를 설명하는 테이블도 포함한다. 본 연구는 GPT-5.2와 오픈 가중치 모델 Qwen-3.6-27B를 대안 백본 모델로 사용하여 SINT-Flow를 평가한다. 이러한 모델을 사용할 때 SINT-Flow는 엔티티 유형 탐지에서 최소 96%, 속성 탐지에서 85%, 스키마 매핑에서 83%의 F1 점수를 달성한다. 또한 본 연구는 적용된 self-consistency 전략과 스키마 매칭 연산자에 검토 루프를 포함하는 것의 유용성을 입증하기 위해 ablation study를 수행한다.

arXiv:2607.24430v1cs.HC

Let Me Look at You: 대화형 음성 합성을 위한 고도화된 얼굴 표정 모델링

Let Me Look at You: Advanced Facial Expression Modeling for Conversational Speech Synthesis

대화형 음성 합성(Conversational Speech Synthesis, CSS)은 인간-컴퓨터 상호작용의 핵심 구성 요소로, 맥락에 적합하고 표현력 있으며 공감적인 음성을 생성하는 것을 목표로 한다. 그러나 얼굴 표정은 공감적 음성 상호작용에 필수적인 미묘하고 풍부한 정서적 단서를 인코딩하는 반면, 기존 접근법들은 이 중요한 모달리티를 종종 간과한다. 또한 음성과 시각 모달리티를 모두 갖춘 대규모 자연 대화 데이터셋의 부재는 대화 환경에서의 시각적 정서 이해 발전을 제한한다. 이러한 한계를 해결하기 위해, 우리는 대규모 언어 모델(LLM) 백본 위에 구축된 얼굴 표정 인식형 CSS 프레임워크인 FacialTalker를 제안한다. 얼굴 표정을 효율적으로 인코딩하기 위해, 각 프레임 수준의 얼굴 표정을 간결한 토큰으로 이산화하는 단일 코드북 시각 토크나이저 AUTokenizer를 제안하며, 이는 얼굴 액션 유닛(Action Unit) 조합의 지도로 학습된다. 나아가 이중 직접 선호 최적화(DualDPO) 전략을 도입하는데, 이는 시각 및 음성 토큰 시퀀스 모두에 선호 제약을 공동으로 부과하여 직접 선호 최적화(DPO)를 확장함으로써, 멀티모달 대화 맥락에서 모델의 얼굴 표정과 음성 의미 이해를 강화한다. 또한 실제 인터넷 대화로부터 완전 자동화된 파이프라인을 통해 수집한 대규모 멀티모달 대화 데이터셋 VSDD-1K를 구축하였으며, 이는 동기화된 화자 비디오와 음성 1,033시간 이상으로 구성되고 프레임의 85% 이상이 유효한 얼굴을 포함한다. 광범위한 객관적·주관적 실험은 FacialTalker가 얼굴 표정 인식과 음성 합성 품질에서 강력한 베이스라인을 일관되게 능가하며, 더 자연스럽고 표현력 있으며 대화 맥락에 더 잘 정렬된 음성을 생성함을 보여준다. 결과는 또한 우리의 학습 전략과 데이터셋 구축 파이프라인의 유효성을 검증한다.

arXiv:2607.24371v1cs.CL

의료 상호운용성을 위한 폐루프 검증-수리: 임상 LLM의 스키마 준수에 관한 다중 모델 연구

Closed-Loop Validation-Repair for Healthcare Interoperability: A Multi-Model Study of Schema Compliance in Clinical LLMs

의료 상호운용성을 위해서는 AI 시스템이 진단 코딩을 위한 ICD-10, 시술 청구를 위한 CPT, 데이터 교환을 위한 HL7 FHIR 등 표준화된 스키마에 부합하는 구조화된 출력을 생성해야 한다. 대규모 언어 모델(LLM)은 임상 추론(clinical reasoning) 능력을 보여주지만, 전자 건강 기록(EHR) 시스템에 통합할 때 스키마 비준수라는 중요한 장벽에 직면한다. Qwen2.5 7B, Llama 3.1 8B, Gemma2 9B의 세 가지 오픈소스 모델을 10개 의료 전문 분야에 걸친 320개의 임상 시나리오에서 로컬 배포를 통해 평가하였으며, 기준선 및 검증-수리 조건 하에서 평가된 960개의 모델-시나리오 쌍을 도출하였다. 첫째, 스키마 비준수는 세 모델 계열에서 일관되게 나타났으며, 아키텍처와 학습 데이터가 달라도 기준선 준수율은 85.9%에서 91.6% 범위였다. 이는 모델별 한계라기보다 의료 학습 말뭉치의 공통된 공백을 시사한다. 둘째, 검증기가 탐지한 실패의 96%는 대체 의료 약어 및 코드 접두사와 같은 표현 수준의 형식 위반이었으며, 이는 모델이 임상 작성 관습은 따르지만 의료 IT 표준에 대한 인식이 부족함을 나타낸다. 셋째, 검증-수리 프레임워크는 전체 준수율 99.0%를 달성했으며, 모델별로 98.4%에서 99.4% 범위였고, 대부분의 오류는 한두 번의 반복 내에 해결되었다. 0.001 미만의 정확한 McNemar p-value와 모델 크기에 걸친 7.8~12.5%p의 절대 개선은 통계적 유의성을 확인한다. 이러한 결과는 폐루프 검증-수리가 의료 상호운용성을 위한 효과적인 시스템 수준의 안전장치이며, 하류 임상 시스템 통합을 위한 스키마 수준의 준비도를 향상시킨다는 점을 뒷받침한다.

arXiv:2607.24352v1cs.CL

규제 지식 관리를 위한 인지 컴퓨팅 아키텍처 구성 요소로서의 검색-증강 대규모 언어 모델

Retrieval-Augmented Large Language Models as Components of Cognitive Computing architecture for Regulatory Knowledge Management

본 논문의 목적은 대규모 언어 모델(LLM)을 검색-증강 생성(RAG) 아키텍처와 통합하는 것이 독립적인 생성 모델에서 인식론적 신뢰성이 향상된 인지 컴퓨팅(cognitive computing) 인프라의 구성 요소로 전환을 가능하게 하는지 검증하는 것이다. 본 연구는 고급 GPU 가속기 없이 온프레미스 환경에서 운영되는 로컬 배포 LLM을 기반으로 한 아키텍처적 접근을 제안하고, 법률에 대한 지속적인 분석과 해석을 요구하는 규제 관리 프로세스 지원에 대한 적용 가능성을 검토한다. 제안된 솔루션은 로컬 LLM과 외부 지식 저장소를 결합하여, 언어 모델이 의미론적 해석을 수행하고 RAG 층이 통제된 지식 검색, 맥락화, 정보 출처의 추적 가능성을 제공하는 하이브리드 인지 아키텍처를 구성한다. 구현은 Ollama 및 LM Studio 실행 환경과 함께 소비자급 하드웨어에서 실행되는 폴란드어 언어 모델 Bielik 및 PLLuM을 사용하여 검증되었다. 결과는 LLM에 RAG를 증강하는 것이 생성 텍스트의 사실적 일관성, 도메인 특이성, 규범적 정밀도를 크게 향상시키면서 근거 없는 콘텐츠 생성 위험을 줄인다는 것을 보여준다. 또한 본 연구는 RAG 통합이 감사 가능성, 통제된 지식 관리, 언어 모델 재학습 없이 규제 정보의 동적 갱신을 도입함을 보여준다. 연구 결과는 RAG로 강화된 로컬 배포 LLM을 단순한 텍스트 생성 도구가 아니라, 높은 법적·정보적 변동성을 특징으로 하는 환경에서 규제 준수 및 조직 의사결정을 지원하는 인지 컴퓨팅 인프라 내 의미론적 처리 모듈로 간주해야 함을 시사한다.

arXiv:2607.24312v1cs.CL

CONSISTRE: 대규모 언어 모델을 활용한 문서 수준 관계 추출을 위한 통합 일관성 인식 프레임워크

CONSISTRE: A Unified Consistency-Aware Framework for Document-Level Relation Extraction with Large Language Models

문서 수준 관계 추출(Document-level relation extraction, DocRE)은 확장된 문맥 전반에 걸친 여러 개체 간의 관계를 추출하면서, 예측된 트리플 간의 일관성을 유지하는 것을 목표로 한다. 대규모 언어 모델(LLM)은 정보 추출에서 뛰어난 추론 능력을 보이지만, 예측이 일반적으로 각 후보 트리플에 대해 독립적으로 생성되어 전이성(transitivity), 대칭성(symmetry), 함수적 유일성(functional uniqueness)과 같은 근본적인 관계 제약을 위반할 수 있으며, 이로 인해 상충되고 신뢰할 수 없는 출력이 발생한다. 우리는 이 한계를 두 가지 상보적인 경로로 해결하는 DocRE를 위한 통합 일관성 인식 프레임워크인 CONSISTRE를 제안한다. 첫 번째 경로는 블랙박스 LLM에 대해 추론 시점에 작동하며, 제약 인식 프롬프팅(constraint-aware prompting), 제약 기반 검증(constraint-based verification), 반복적 자기 성찰(iterative self-reflection)을 결합하여 과제별 미세조정 없이 예측을 정제한다. 두 번째 경로는 지식 증류와 강화학습 파이프라인을 통해 더 작은 오픈소스 모델에 일관성 지식을 주입한다. 강력한 교사 모델의 추론 trace는 지도 미세조정을 통해 학생 모델로 증류되며, 이어서 추출 성능과 관계 일관성을 공동으로 최적화하는 복합 보상을 사용하는 GRPO 정렬이 수행된다. 두 경로는 통합된 일관성 공식화 하에서 API 접근 가능한 시나리오와 로컬 배포 가능한 시나리오를 모두 포괄한다. DocRED에서의 실험은 두 경로 모두 각자의 베이스라인을 능가함을 보여주며, 추론 시점 경로는 상용 블랙박스 LLM으로 경쟁력 있는 F1을 달성하고, 학습 시점 경로는 추론 비용의 일부 수준에서 7–8B 오픈소스 모델과 최첨단 독점 LLM 간의 격차를 상당히 좁힌다. 소거 연구(ablation studies)는 명시적 일관성 모델링이 관계적 모순을 완화하고 두 배포 패러다임 모두에서 LLM 기반 DocRE의 신뢰성을 향상시킴을 확인한다.

arXiv:2607.24276v1cs.CL

토크나이저 세금: 인도 언어를 위한 서브워드 토큰화의 다국어 비용 정량화 및 설명

The Tokenizer Tax: Quantifying and Explaining the Cross-Lingual Cost of Subword Tokenization for Indian Languages

대규모 언어 모델(LLM)은 문자나나 단어를 직접 읽기보다 서브워드 토크나이저를 통해 텍스트를 처리한다. 이러한 토크나이저는 주로 영어 중심 코퍼스로 학습되기 때문에, 많은 비영어권 언어에 체계적이면서도 종종 간과되는 불리함을 초래한다. 본 연구에서는 FLORES-200 병렬 코퍼스를 사용하여 인도 언어에 대한 이러한 토크나이저 세금을 정량화하고, 6개의 널리 사용되는 토크나이저와 14개 언어에 걸쳐 토큰화(tokenization) 생성률(fertility)을 측정한다. cl100k_base(GPT-3.5 및 GPT-4에서 사용) 하에서 인도 언어는 영어 대비 평균 8.0배의 토큰화 세금을 겪으며, 말라얄람어에서는 13.0배에 달한다. 이는 동등한 의미 콘텐츠에 대해 영어 사용자에게 제공되는 것의 12%에 불과할 정도로 유효 컨텍스트 윈도우(context window)를 축소시킨다. 이러한 격차의 주요 메커니즘은 바이트-페어 병합(byte-pair merge) 실패로, 텍스트가 단일 바이트 토큰으로 분절되는 현상이며, 병합 실패는 토크나이저 세금과 강한 상관관계를 보인다(Pearson r = 0.89). 또한 이 현상이 인드 스크립트의 고유한 특성이 아니라 토크나이저 설계의 결과임을 보인다. XLM-R 및 OpenAI의 o200k_base와 같은 다국어 토크나이저는 평균 인도 언어 토크나이저 세금을 73% 줄여, 이러한 격차가 대부분 해소 가능함을 입증한다. 토큰 통계를 넘어, 고정된 컨텍스트 예산 하에서 인도 언어 문서가 동등한 영어 문서보다 원본 콘텐츠를 상당히 적게 보존함을 보여 실질적 결과를 정량화한다. 마지막으로 Belebele 벤치마크에서 토큰화 생성률과 독해 성능 간의 관계를 검토한 결과, 겉으로 보이는 상관관계는 토크나이저 동작만이 아니라 언어 자원 가용성에 의해 대부분 설명됨을 발견한다.

arXiv:2607.24273v1cs.CL

INS-ActBench: 대규모 언어 모델의 전문 보험계리 역량 평가를 위한 종합 벤치마크

INS-ActBench: A Comprehensive Benchmark for Assessing Professional Actuarial Capability of Large Language Models

대규모 언어 모델(LLM)은 금융 추론에서 강한 잠재력을 보여왔지만, 기존 벤치마크는 종종 도메인 지식, 수치 추론, 긴 문맥 이해, 도구 사용을 각각 분리된 설정에서 평가한다. 이는 감사 가능하고, 맥락에 기반하며, 도구로 실행 가능한 의사결정을 요구하는 현실적인 전문 업무 흐름을 평가하는 능력을 제한한다. 우리는 LLM의 전문 보험계리 역량을 평가하기 위한 종합 벤치마크인 INS-ActBench를 제안한다. INS-ActBench는 16개 보험계리 협회가 공개한 시험과 샘플 문제에서 나온 12,050개의 Q&A 쌍을 포함한다. 이는 세 가지 하위 집합을 다룬다: 표준화된 보험계리 지식을 위한 INS-Act-Know, 긴 문맥의 보험 사례 추론을 위한 INS-Act-Case, 검증 가능한 수치 출력을 갖는 스프레드시트 및 R 코드 과제를 위한 INS-Act-Practice. 9개의 대표적인 LLM과 인간 보험계리 전문가에 대한 실험은 명확한 역량 경계를 드러낸다. 최첨단 LLM은 표준화된 지식에서 강한 성능을 보이지만, 사례 추론, 도구 기반 업무 흐름, 관할권에 민감한 실무에서는 훨씬 약한 상태로 남아 있다. INS-ActBench는 신뢰할 수 있는 전문 보조를 목표로 하는 보험계리 LLM 개발을 위한 재현 가능한 기반을 제공한다. 코드는 https://github.com/FDU-INS/INS-ActBench 에서 확인할 수 있다.

arXiv:2607.24191v1cs.CL

StanceFlip: 다중 모달 대화형 입장 전환 예측을 위한 포괄적 다차원 벤치마크

StanceFlip: A Comprehensive Multi-Dimensional Benchmark for Multimodal Conversational Stance Flipping Forecasting

대화형 입장 탐지(conversational stance detection)는 정적 텍스트 분석에서 동적 다중 모달 모델링으로 전환되었다. 그러나 기존 벤치마크에는 세 가지 핵심 한계가 있다: 신념의 동적 진화, 특히 입장 반전(stance reversal) 과정을 포착하지 못하는 점; 정서 상태와 논리적 추론을 분리하기 어려운 점; 풍자(sarcasm)와 같은 화용적(pragmatic) 모호성을 해소하는 데 있어 다중 모달 단서의 중요한 역할을 간과하는 점이다. 이러한 한계를 해결하기 위해, 우리는 StanceFlip을 제안한다. StanceFlip은 다중 턴 대화에서 다섯 가지 모달리티와 다양한 시나리오에 걸친 다중 모달 대화형 입장 전환 예측을 위해 설계된 벤치마크로, 두 가지 새로운 하위 과제를 포함한다: 1) 다중 모달 입장 6-tuple 추출(Multimodal Stance Sextuple Extraction)—화자(holder), 대상(target), 감정(emotion), 감성(sentiment), 입장(stance), 근거(rationale)를 대화의 정적 상태 스냅샷으로 추출하여 세밀한 인지 구조를 포착한다. 2) 동적 입장 전환 귀인(Dynamic Stance Flip Attribution)—대화 전반에 걸친 입장 반전을 추적하고 그 근본적 촉발 요인을 식별한다. 데이터셋과 함께, 우리는 다중 모달 대화형 입장 전환 예측(MCSFF)을 위한 전용 프레임워크인 ConStaFF를 제안한다. 대규모 언어 모델(LLM)을 기반으로, ConStaFF는 구조화된 입장 모델링과 충실한 전환 귀인을 위해 Thought-of-Stance(ToS) 추론 프레임워크와 자기 성찰적(self-reflective) 검증 메커니즘이 통합된 end-to-end 입장 추론을 수행한다. 구체적으로, ToS는 추론 과정을 전문화된 인지 페르소나(cognitive persona)로 분해하여 대상 명제를 구성하고, 교차 모달 충돌을 해결하며, 과거 입장 궤적을 추론한다. 광범위한 실험 결과, 우리의 접근법은 6-tuple 추출과 전환 촉발 요인 귀인 모두에서 최신(state-of-the-art) 성능을 달성하며, 강력한 다중 모달 대규모 언어 모델 기준선(baseline)들을 상당한 폭으로 능가한다.