PyTorchKR Papers

최신 논문

총 11,108편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.18999v2cs.CL

MedDDC-Eval: 다회차 의료 상담 에이전트의 진단 분리 평가

MedDDC-Eval: Diagnosis-Decoupled Evaluation of Multi-Turn Medical Consultation Agents

다회차 의료 상담 에이전트를 평가하려면 상호작용을 통해 유도한 병력이 제공하는 진단 지원을 판단해야 한다. 그러나 결합(coupled) 평가에서는 각 정책(policy)이 병력 유도와 최종 진단 생성을 모두 수행하므로, 진단 점수가 유도된 병력과 정책 고유의 최종 진단 생성기를 혼재(confound)시킨다. 우리는 의료 기록과 온라인 상담에서 파생된 홀드아웃(held-out) 사례 위에 구축된 진단 분리 평가 테스트베드인 MedDDC-Eval을 제안한다. 동일한 고정(frozen) 공유 진단 판독기(diagnostic reader)를 모든 정책이 유도한 병력에 적용하여, 정책 간 최종 진단 생성을 고정하고 공유 진단 판독기 하에서 비교를 가능하게 한다. 진단 지원, 정보 획득(information-acquisition) 커버리지, 효율성을 보고한다. LLM 보조 의미적 매칭과 이어지는 결정론적 일대일 할당(one-to-one assignment)으로 진단-궤적-효율(diagnosis-trajectory-efficiency, D/T/E) 점수를 감사 가능(auditable)하게 한다. 8개 정책에 걸친 고정 병력(fixed-history) 감사에서, 각 정책의 고유 생성기를 공유 진단 판독기로 교체하면 진단 F1이 2.2~19.0점 변동하고 Record 및 Dialogue 분할에서 쌍별(pairwise) 순위의 18%와 36%가 뒤바뀐다. 하류(downstream) 유용성을 검토하기 위해, 동일한 진단 및 궤적 차원을 목표로 하는 별도의 학습 시점 보상(training-time reward)과 함께 표준 Group Relative Policy Optimization(GRPO)을 사용한다. Qwen3-32B 초기화 대비, 학습된 정책은 홀드아웃 Record 및 Dialogue 분할에서 각각 9.6점과 4.6점의 집계 점수(aggregate-score)를 획득하며, 어느 한쪽 피드백 신호를 제거(ablation)하면 두 분할 모두에서 집계 점수가 감소한다. 종합하면, MedDDC-Eval은 공유 진단 판독기 하에서의 비교와 평가 기반 정책 개발을 지원하며, 최종 진단 생성도 목표 역량의 일부일 때 end-to-end 평가를 보완한다.

arXiv:2607.15865v2cs.CL

MLIR 기반 대규모 언어 모델 컴파일 방법

An MLIR-Based Compilation Method for Large Language Models

대규모 언어 모델(LLM)은 현대 AI 가속기에서 지배적인 워크로드가 되었지만, 이를 특화 하드웨어에 배포할 때 여전히 두 가지 핵심 과제가 남아 있다: 학습된 모델을 컴파일러 친화적인 중간 표현(intermediate representation)으로 가져오는 방법, 그리고 제한된 온칩(on-chip) 메모리 하에서 자기회귀(autoregressive) 추론 루프를 효율적으로 스케줄링하는 방법이다. 본 논문은 대규모 언어 모델을 위한 MLIR(Multi-Level Intermediate Representation) 기반 컴파일 방법을 제안하며, TopOp와 TpuOp라는 두 가지 연산자(operator) dialect를 통해 이를 설명한다. TopOp는 소스 프레임워크와 타깃 칩 모두에 독립적인 고수준 그래프 dialect로서 모델 의미론(semantics)을 표현하는 역할을 하며, TpuOp는 타깃 하드웨어 dialect로서 양자화, 층 그룹, 메모리 레이아웃과 같은 칩 관련 결정을 담는다. 모델은 먼저 TopOp로 표현된 후, 층별로 TpuOp로 lowering되고, 최종적으로 배포 가능한 바이너리가 생성된다. 또한 각 트랜스포머 층은 정적 컴파일을 위해 prefill, prefill_kv(과거 key-value 캐시를 포함한 prefill), decode의 세 단계로 분할되어, 프롬프트 병렬 처리와 토큰별 생성의 서로 다른 계산 특성을 수용한다. 이 방법은 TPU-MLIR 컴파일러 {https://github.com/sophgo/tpu-mlir}와 LLM-TPU 배포 프로젝트 {https://github.com/sophgo/LLM-TPU}에 구현되었으며, Qwen, Llama, InternVL, MiniCPM-V 시리즈를 포함한 다양한 생성 모델과 GPTQ, AWQ, AutoRound 등 여러 양자화 및 배포 형태를 지원한다.

arXiv:2607.14561v2cs.CL

MARS: KGQA를 위한 다중 홉 적응형 검색 및 SPARQL 생성

MARS: Multi-hop Adaptive Retrieval and SPARQL Generation for KGQA

대규모 언어 모델(LLM)은 강력한 추론 성능을 보여주었지만, 환각(hallucination) 경향은 최신의 그라운딩(grounding)된 정보가 필요한 지식 집약적 작업에서 신뢰성을 제한한다. 지식 그래프(KG)와 LLM을 결합하면 값비싼 미세조정 없이 지속적으로 업데이트할 수 있는 명시적 기호 지식을 활용할 수 있으며, 빠르게 발전하는 LLM 추론의 이점도 누릴 수 있다. 우리는 모델 미세조정이 필요 없는 확장 가능한 지식 그래프 질의응답(KGQA) 접근법인 MARS를 제안한다. 개방형 에이전트 탐험에 의존하는 대신, MARS는 질문 엔티티를 KG에 연결하고 관련 다음 홉(next-hop) 정보를 반복적으로 검색하는 구조화된 검색 절차를 수행한다. 각 단계에서 MARS는 그래프 순회를 계속할지 최종 SPARQL 쿼리를 생성할지 결정하여, 질문에 따라 검색 깊이를 적응적으로 조절하면서 전체 파이프라인을 완전한 에이전트 방식보다 더 예측 가능하게 유지한다. 우리는 여러 LLM과 설정, 다국어 평가를 포함하여 세 가지 기존 KGQA 벤치마크에서 MARS를 평가하고, ablation study와 오류 분석을 통해 통찰을 제공한다. 우리의 접근법은 효율적이고 확장 가능한 상태를 유지하면서 최신(state-of-the-art) 방법 대비 경쟁력 있는 성능을 달성한다. 평가 결과, 코드 및 리소스는 공개적으로 제공된다: https://github.com/dice-group/mars-kgqa.

arXiv:2607.00341v2cs.CL

DiscoLoop: Looping Discrete Embeddings and Continuous Hidden States for Multi-hop Reasoning

표준 Transformer의 깊이-국소 저장 문제(depth-local storage problem)와 Looped Transformer의 표현 불일치(representation mismatch) 문제를 분석하고, 이를 해결하기 위해 이산 임베딩 채널과 연속 은닉 상태 채널을 동시에 순환시키는 DiscoLoop 아키텍처를 제안한다. DiscoLoop은 다중 홉 추론(multi-hop reasoning) 태스크에서 기존 Looped Transformer 대비 훨씬 적은 학습 스텝으로 거의 완벽한 정확도를 달성하며, 실제 언어 모델 사전학습에서도 낮은 학습 손실과 향상된 벤치마크 성능을 보인다.

arXiv:2606.28116v2cs.CL

LLM 학습 불안정성 선제적 탐지를 위한 메커니즘 기반 모니터

Mechanism-Driven Monitors for Preemptive Detection of LLM Training Instability

대규모 언어 모델 학습에서 수치 결함이나 하이퍼파라미터 오류가 발생해도 손실과 그래디언트 노름은 수천 스텝 동안 정상처럼 보일 수 있다는 문제를 다루며, 저정밀도 flash attention의 QK 쌍선형 분해 스펙트럼 엔트로피와 전문가 혼합(MoE) 라우터 가중치 유사도를 모듈 기능 역할에서 도출한 내부 모니터로 활용한다. 결함 주입 실험 결과, 이 메커니즘 기반 지표들은 손실 발산보다 수천 스텝 앞서 서로 다른 결함 유형에 대한 구별 가능한 신호를 제공함을 보인다.

arXiv:2606.13751v4cs.CL

상속 추론에서 어떤 모델이 더 나은 성능을 보이는가?

Which Models Perform Better in Inheritance Reasoning?

본 논문은 아랍 이슬람 상속 추론에 관한 QIAS 2026 공유 과제(Shared Task)에서 PSL 팀의 참가를 소개한다. 이 과제는 법적 해석, 다단계 추론, 정밀한 수치 계산이 필요한 상속 사례를 해결하는 대규모 언어 모델(LLM)의 능력을 평가한다. 최소한의 과제별 적응으로 구조화된 법적 추론에서의 효과를 평가하기 위해 통일된 프롬프트(prompt) 전략 하에서 \textit{commercial} 모델과 \textit{open-source} 모델을 비교한다. 우리의 결과는 두 모델 계열 간 신뢰성에 뚜렷한 격차가 있음을 보여준다. 상용 모델은 적격 상속인 식별, 배제 규칙 적용, 추론 단계 전반에 걸친 일관성 유지에서 더 강한 성능을 보인다. 반면 오픈소스 모델은 특히 종속적 법적 결정과 분수 지분 조정이 수반되는 사례에서 더 큰 불안정성을 보인다. 최고 성능은 MRE $0.989$로 \textit{Gemini 2.5 Flash}가 달성한다.

arXiv:2605.30852v3cs.CL

추측 파이프라인 디코딩: 파이프라인 병렬화를 통한 고정확도 드래프팅과 숨겨진 지연

Speculative Pipeline Decoding: Higher-Accuracy Drafting with Hidden Latency via Pipeline Parallelism

추측 디코딩(Speculative Decoding, SD)은 draft-then-verify 패러다임으로 낮은 동시성 환경에서 대규모 언어 모델(LLM) 추론을 가속한다. 그러나 주류 방법들은 다중 토큰 예측에 의존하여 예측 난이도가 누적되고 드래프트 지연이 드러나는 문제가 있다. 우리는 대상 LLM을 $n$개의 파이프라인 단계로 분할하여 단일 시퀀스의 $n$개 토큰이 병렬로 진행되도록 하는 추측 파이프라인 디코딩(Speculative Pipeline Decoding, SPD)을 제안한다. 파이프라인을 포화 상태로 유지하기 위해, 파이프라인 드래프트 모듈(Pipeline Draft Module, PDM)이 다중 깊이의 대상 특징을 집계해 다음 토큰을 예측하고 각 파이프라인 단계와 동시에 실행되어, 예측 난이도를 제한하고 수용률을 높이며 드래프트 지연을 숨긴다. 실험 결과, SPD는 중간 정도의 파이프라인 폭에서 EAGLE-3보다 더 높은 이론적·실제 벽시계 속도 향상을 달성하며, 더 공격적인 폭에서는 추가 이득의 여지가 남아 있다. 코드는 https://github.com/yuyijiong/speculative_pipeline_decoding 에서 제공된다.

arXiv:2605.25758v3cs.CL

StreamProfileBench: 실세계 스트리밍 시나리오에서의 세밀한 사용자 프로파일 추론 벤치마크

StreamProfileBench: A Benchmark for Fine-Grained User Profile Inference in Real-World Streaming Scenarios

대규모 언어 모델(LLM)은 사용자 프로파일링을 재편했지만, 현재 평가는 주로 정적 데이터 스냅샷에 초점을 맞춘다. 이 패러다임은 사용자 생성 콘텐츠(UGC)가 지속적으로 유입되고 세밀한 프로파일이 빠르게 변화하는 개인화 시스템의 현실을 간과한다. 이 격차를 메우기 위해, 세밀한 스트리밍 사용자 프로파일링을 위한 대규모 벤치마크인 StreamProfileBench를 제안한다. 스트리밍 사용자 프로파일링을 연속적 상태 유지(state maintenance) 과제로 형식화하고, 다섯 가지 다양한 플랫폼에서 7,000명 이상의 실제 사용자로부터 120,000건 이상의 UGC 게시물로 구성된 고도로 실제적인 데이터셋을 구축한다. 사용자 관심사의 시간적 상관관계를 활용하여, 주석 없는(annotation-free) 새로운 평가 프레임워크를 추가로 제안한다. 14개의 주요 LLM에 걸친 광범위한 실험 결과, 연속적인 프로파일 업데이트는 여전히 미해결 과제로 남아 있음을 보여준다. 모델은 체계적인 보수적 바이어스를 보이며, 과거 관심사를 과도하게 유지하는 반면 관심사 감쇠를 인식하지 못한다. Ablation 실험은 스트리밍 패러다임의 실용적 유용성과 필요성을 추가로 검증한다. 데이터와 코드는 https://github.com/WaterWang-001/StreamProfileBench 에서 제공된다.

arXiv:2605.09239v2cs.CL

반복 토큰 개수 세기가 표현과 출력 간 분리를 드러낸다

Repeated-Token Counting Reveals a Dissociation Between Representations and Outputs

대규모 언어 모델(LLM)은 훨씬 더 어려운 추론 작업에서는 잘 수행하지만, 목록에서 단어가 몇 번 반복되는지 세는 데는 실패한다. 이러한 실패는 흔히 내부 개수 추적의 한계 때문이라고 여겨진다. 우리는 이 귀인이 틀렸음을 보인다. 잔차 스트림(residual stream)에 대한 선형 프로브(linear probe)는 모든 임베딩 이후 층에서 거의 완벽한 정확도로 올바른 개수를 디코딩하며, 출력에서 잘못된 답이 굳어지는 바로 그 층에서도 마찬가지이다. 어텐션 패턴은 반복 토큰에 대한 붕괴의 증거를 보여주지 않으며, 토큰화 인공물은 실패의 원인을 전혀 설명하지 못한다. 대신, 네트워크 깊이의 대략 85–93% 지점에 있는 다층 퍼셉트론(MLP) 블록이 올바르게 인코딩된 개수를 고정된 잘못된 답으로 덮어쓴다. 이 블록을 제거(ablation)하면 잘못된 출력이 바뀌며, 이것이 실패에 인과적으로 책임이 있음을 입증한다. 이 블록은 공백으로 구분된 반복 단어 형식에서 작동하며, 반복된 숫자 토큰에는 나타나지 않는다. 이 패턴은 Llama-3.2(1B 및 3B)와 Qwen2.5(1.5B, 3B 및 7B)에서 일관된 상대적 깊이에서 유지된다. 개수는 올바르게 표현되지만 특정 연산이 그것이 출력에 도달하는 것을 막으므로, 표현 실패와 라우팅 실패는 서로 다른 개입을 요구한다.

arXiv:2604.23356v2cs.CL

VeriLLMed: 지식 그래프를 활용한 의료 대규모 언어 모델의 대화형 시각적 디버깅

VeriLLMed: Interactive Visual Debugging of Medical Large Language Models with Knowledge Graphs

대규모 언어 모델(LLM)은 의료 진단에서 가능성을 보여주지만, 임상적 결정의 높은 위험성과 불완전한 추론 신뢰성으로 인해 실제 배포는 여전히 어렵다. 따라서 진단 추론이 신뢰할 수 있고 임상적으로 그라운딩되어 있는지 평가하려면 모델 행동에 대한 면밀한 검사가 필수적이다. 그러나 의료 LLM의 디버깅은 여전히 어렵다. 첫째, 개발자는 종종 모델 오류를 임상적으로 의미 있는 용어로 해석하기에 충분한 의료 도메인 전문성이 부족하다. 둘째, 모델은 서로 다른 입력 유형, 과제, 추론 단계를 포함하는 크고 다양한 인스턴스 집합에서 실패할 수 있어, 개발자가 어떤 오류에 집중 검사를 할지 우선순위를 정하기 어렵다. 셋째, 기존 디버깅 관행은 대체로 인스턴스 중심이며 고립된 실패에 대한 수동 검사에 의존하기 때문에, 개발자는 사례 전반에 걸친 반복되는 오류 패턴을 식별하는 데 어려움을 겪는다. 이러한 과제를 해결하기 위해, 우리는 외부 생의학 지식을 통합하여 의료 LLM의 진단 추론을 감사하고 디버깅하는 시각 분석 시스템인 VeriLLMed를 제시한다. VeriLLMed는 모델 출력을 비교 가능한 추론 경로로 변환하고, 지식 그래프에 그라운딩된 참조 경로를 구성하며, 세 가지 반복되는 진단 오류 유형—관계 오류(relation errors), 분기 오류(branch errors), 누락 오류(missing errors)—를 식별한다. 사례 연구와 전문가 평가는 VeriLLMed가 개발자가 임상적으로 타당하지 않은 추론을 식별하고, 의료 LLM 개선에 활용할 수 있는 실행 가능한 인사이트를 생성하는 데 도움이 됨을 보여준다.

arXiv:2604.01348v3cs.CL

대규모 절차적 지식이 추론 성능을 향상시킨다

Procedural Knowledge at Scale Improves Reasoning

테스트 타임 스케일링(test-time scaling)은 어려운 추론 과제에서 언어 모델을 개선하는 효과적인 방법으로 부상했다. 그러나 기존 방법의 대부분은 각 문제를 독립적으로 다루며, 이전 추론 궤적(trajectory)의 지식을 체계적으로 재사용하지 않는다. 특히 절차적 지식—문제를 재구성하고, 접근 방식을 선택하며, 필요할 때 검증하거나 되돌아가는 방법—을 충분히 활용하지 못한다. 우리는 Reasoning Memory를 제안한다. 이는 추론 모델을 위한 검색-증강 생성(RAG) 프레임워크로, 절차적 지식을 대규모로 명시적으로 검색하고 재사용한다. 기존의 단계별 추론 궤적 코퍼스에서 출발하여, 각 궤적을 자기완결적인 하위 질문-서브루틴(subroutine) 쌍으로 분해하고, 이를 통해 3,200만 개의 간결한 절차적 지식 항목으로 이루어진 데이터스토어를 구축한다. 추론 시, 경량 in-thought 프롬프트를 통해 모델이 핵심 하위 질문을 언어화하고, 추론 trace 내에서 관련 서브루틴을 검색하며, 다양하게 검색된 서브루틴을 암묵적 절차적 사전(prior)으로 삼아 추론한다. 수학, 과학, 코딩 벤치마크 6개에 걸쳐 Reasoning Memory는 문서, 궤적, 템플릿 지식을 활용한 RAG와, 연산량이 맞춰진 테스트 타임 스케일링 기준선을 일관되게 능가한다. 더 높은 추론 예산 하에서, 모델과 과제 전체에 걸친 평균적으로 검색 없음 대비 19.5%, 연산량이 맞춰진 기준선 대비 8.9% 개선을 보인다. 소거 연구(ablation study)는 이러한 이득이 두 가지 핵심 요인에서 비롯됨을 보여준다: 원본 궤적의 넓은 절차적 커버리지와, 절차적 지식의 효과적인 추출 및 재사용을 함께 가능하게 하는 우리의 분해 및 검색 설계. 실험 코드는 https://github.com/facebookresearch/reasoning-memory 에서 이용할 수 있다.

arXiv:2603.07841v2cs.CL

보지 못한 라벨 없는 데이터에서 Text2SQL 모델을 위한 효율적이고 효과적인 평가기

An Efficient and Effective Evaluator for Text2SQL Models on Unseen and Unlabeled Data

최근 대규모 언어 모델(LLM)의 발전으로 자연어 질문을 데이터베이스 쿼리로 변환하는 Text2SQL 시스템이 강화되었다. 지속적인 배포상의 과제는 검증된 답이 없을 때 새로 학습된 Text2SQL 시스템을 보지 못한 라벨 없는 데이터셋에서 평가하는 것이다. 데이터베이스의 내용과 구조가 변하고, 개인정보 보호 정책이 수동 검토를 지연시키며, 정교하게 작성된 SQL 라벨은 비용이 많이 들고 시간이 많이 소요되기 때문에 이러한 상황은 자주 발생한다. 적시적인 평가 없이는 조직이 릴리스를 승인하거나 실패를 조기에 감지할 수 없다. FusionSQL은 어떤 Text2SQL 모델과도 함께 작동하며 참조 라벨 없이 정확도를 추정하여, 팀이 보지 못한 라벨 없는 데이터셋에서 품질을 측정할 수 있게 한다. 이는 시스템 자체 출력의 패턴을 분석하여 대상 데이터셋이 학습에 사용된 자료와 어떻게 다른지 특성화한다. FusionSQL은 사전 릴리스 검사, 새 데이터베이스에 대한 지속적 모니터링, 품질 저하 감지를 지원한다. 다양한 애플리케이션 설정과 질문 유형에 걸친 실험은 FusionSQL이 실제 정확도를 밀접하게 따르며 새롭게 발생하는 문제를 신뢰성 있게 알린다는 것을 보여준다. 코드는 https://github.com/phkhanhtrinh23/FusionSQL 에서 이용할 수 있다.

arXiv:2603.03536v2cs.CL

SafeCRS: LLM 기반 대화형 추천 시스템을 위한 개인화된 안전성 정렬

SafeCRS: Personalized Safety Alignment for LLM-Based Conversational Recommender Systems

현재 LLM 기반 대화형 추천 시스템(conversational recommender systems, CRS)은 주로 추천 정확도와 사용자 만족도를 최적화한다. 우리는 추천 출력이 개인화된 안전 제약을 위반하여 사용자에게 부정적인 영향을 미칠 수 있는, 아직 충분히 탐구되지 않은 취약점을 확인한다. 이는 트라우마 유발 요인, 자해 이력, 공포증과 같은 개인별 안전 민감도가 대화에서 암묵적으로 추론되지만 추천 과정에서 존중되지 않을 때 발생한다. 우리는 이 과제를 개인화된 CRS 안전성으로 형식화하고, 사용자별 제약 하에서 LLM 기반 CRS의 안전 위험을 체계적으로 평가하기 위해 설계된 새로운 벤치마크 데이터셋 SafeRec를 소개한다. 이 문제를 더 해결하기 위해, 추천 품질과 개인화된 안전성 정렬을 공동으로 최적화하기 위해 Safe 지도 미세조정(Safe-SFT)과 Safe Group reward-Decoupled Normalization Policy Optimization(Safe-GDPO)을 통합하는 안전 인식 학습 프레임워크 SafeCRS를 제안한다. SafeRec에 대한 광범위한 실험은 SafeCRS가 가장 강력한 추천 품질 기준선 대비 안전 위반률을 최대 96.5% 감소시키면서 경쟁력 있는 추천 품질을 유지함을 보여준다. 경고: 본 논문에는 잠재적으로 유해하고 불쾌한 내용이 포함되어 있습니다.

arXiv:2602.21947v5cs.CL

대규모 언어 모델의 알고리즘적 맹목: 성능 예측의 보정 연구

Algorithmic Blindness in Large Language Models: A Calibration Study of Performance Prediction

대규모 언어 모델(LLM)은 놀라운 지식의 폭을 보여주지만, 계산 과정에 대해 추론하는 능력은 여전히 잘 이해되지 않았다. 알고리즘 선택과 배포를 안내하기 위해 LLM에 의존하는 실무자에게 이 격차를 메우는 것은 중요하다. 우리는 인과 발견(causal discovery)을 테스트베드로 삼아 이 한계를 다루고, 알고리즘 실행에서 도출된 정답(ground truth)에 대해 8개의 선단 LLM을 평가한다. 우리는 모델 전반에 걸친 체계적이고 거의 완전한 실패를 발견한다. 예측 범위는 실제 신뢰구간보다 훨씬 넓음에도 불구하고, 대부분의 경우 실제 알고리즘 평균을 포함하지 못한다. 대부분의 모델은 무작위 추측보다 나쁜 성능을 보인다. 최고 성능 모델의 미미한 개선은 원칙에 기반한 추론이라기보다 벤치마크 암기를 시사한다. 우리는 이 실패를 알고리즘적 맹목(algorithmic blindness)이라 명명하고, 이것이 알고리즘에 대한 선언적 지식과 보정된(calibrated) 절차적 예측 사이의 근본적 격차를 반영한다고 주장한다.

arXiv:2601.18350v5cs.CL

어댑터 병합이 잠재 추론 흔적을 재활성화한다: 메커니즘 분석

Adapter Merging Reactivates Latent Reasoning Traces: A Mechanism Analysis

2단계 파이프라인(도메인 적응 후 지시 정렬)을 통해 파인튜닝된 대규모 언어 모델(LLM)은 어댑터 병합 후 사소하지 않은 간섭을 보일 수 있으며, 여기에는 엄격한 디코딩 하에서 명시적 추론 흔적의 재출현이 포함된다. 우리는 의료 LLM 설정에서 추론 흔적 누출과 지시 따르기(instruction-following) 행동에 대한 경량의 재현 가능한 측정을 사용하여 이 현상을 연구한다. 마커 기반 프록시를 넘어, 마커 금지·답변 전용 평가를 도입하고 표면 마커에 의존하지 않는 정확도 기반 방향을 정의한다. 이 방향을 따른 rank-1 로짓(logit) 공간 개입은 결정 분포를 조절하며, 충분히 큰 개입 강도에서 무작위 방향 대조군을 넘어 객관식 정확도를 개선한다. 또한 도메인 어댑터와 지시 어댑터가 부분적으로 정렬되지 않은 업데이트 방향을 유도한다는 층(layer)별 기하학적 증거를 제공하고, 누출을 줄이고/또는 토이 설정에서 정확도를 개선할 수 있는 개념 증명 수준의 기하학 인식 병합을 제시한다. 우리 결과는 추론 흔적 누출의 경계 조건을 규명하고, 더 안전한 어댑터 병합을 위한 실용적 진단 및 개입 방법을 제공한다.

arXiv:2601.14032v2cs.CL

RM-Distiller: 생성형 LLM을 활용한 보상 모델 지식 증류

RM-Distiller: Exploiting Generative LLM for Reward Model Distillation

보상 모델(RM)은 대규모 언어 모델(LLM)을 인간 선호에 정렬하는 데 핵심적인 역할을 한다. 고품질 인간 선호 주석을 얻기 어렵기 때문에, 생성형 LLM으로부터 선호를 증류하는 것이 표준적인 관행으로 자리 잡았다. 그러나 기존 접근법은 대부분 교사 모델을 단순한 이진 주석자로 취급하여, RM 지식 증류를 위해 교사가 가진 풍부한 지식과 역량을 충분히 활용하지 못한다. 이를 해결하기 위해, 교사 LLM의 다면적 역량을 체계적으로 활용하도록 설계된 프레임워크인 RM-Distiller를 제안한다: (1) 정제(refinement) 역량—고도로 상관된 응답 쌍을 합성하여 세밀하고 대조적인 신호를 만든다. (2) 점수화(scoring) 역량—마진 인식 최적화 목표를 통해 RM이 정확한 선호 강도를 포착하도록 유도한다. (3) 생성(generation) 역량—교사의 생성 분포를 통합하여 RM을 정규화하고, RM이 근본적인 언어 지식을 보존하도록 한다. 광범위한 실험을 통해 RM-Distiller가 RM 벤치마크와 강화학습 기반 정렬 모두에서 기존 증류 방법을 크게 능가함을 보였으며, 다면적 교사 역량을 활용하는 것이 효과적인 보상 모델링에 핵심적임을 입증했다. 우리가 아는 한, 이는 생성형 LLM으로부터 RM을 증류하는 최초의 체계적 연구이다.

arXiv:2601.09001v5cs.CL

Entropy Sentinel: LLM 모니터링을 위한 엔트로피 트레이스 프로빙

Entropy Sentinel: Probing Entropy Traces for LLM Monitoring

LLM 배포는 두 가지 밀접하게 연관된 과제를 제기한다: (1) 모니터링---트래픽이 변화함에 따라 모델이 어디에서 성능이 저하되는지 추정하는 것---과 (2) 우선순위화---가장 큰 성능 격차를 줄이기 위해 어디에 개입할지 결정하는 것. 우리는 표준 추론에서 얻을 수 있는 저렴하고 일반 사용자도 접근 가능한 신호인 top-$k$ logprobs가 검증 가능한 과제와 주관적 과제 모두에서 도메인 수준 품질의 신뢰할 수 있는 대리 지표로 기능할 수 있는지 탐구한다. 각 응답의 출력-엔트로피 프로필을 간결한 벡터로 요약하고, 경량 분류기로 인스턴스 품질을 예측한 뒤, 예측값을 평균하여 도메인 수준 추정치를 산출한다. 검증 가능한 과제(10개의 STEM 벤치마크, 9개의 LLM, 전수적인 train/test 구성)에서는 추정치가 종종 홀드아웃 정확도를 추적하며, 여러 모델이 거의 단조적인 보정을 보인다. 주관적 과제에서는 분류된 실제 사용자 대화에 대한 LLM-judge 점수로 학습한 결과, 여러 모델이 판단자의 슬라이스 점수를 놀랍도록 밀접하게 추적한다($r$ 최대 $0.91$) 및 최저 성능 카테고리를 거의 완벽하게 탐지하지만, 모든 LLM에서 그런 것은 아니다. 결합이 성립하는 경우, 결과는 엔트로피 신호가 judge 기반 평가 비용의 일부만으로 모니터링을 지원할 수 있음을 시사한다.

arXiv:2601.02580v2cs.CL

미세조정 대규모 언어 모델을 활용한 문항 특성 곡선 재구성

Reconstructing Item Characteristic Curves using Fine-Tuned Large Language Models

전통적인 평가 문항 매개변수(예: 난이도, 변별도) 결정 방법은 문항 반응 이론(IRT) 보정을 위해 학생 수행 데이터를 수집하는 값비싼 현장 시험에 크게 의존한다. 본 연구는 잠재 능력 스펙트럼 전반에 걸친 학생 응답을 시뮬레이션하도록 대규모 언어 모델(LLM)을 미세조정하여 이러한 심리측정학적 특성을 암묵적으로 모델링하는 새로운 접근법을 제안한다. Qwen-3 dense 모델 시리즈와 저랭크 적응(Low-Rank Adaptation, LoRA)을 활용하여, 이산적 능력 서술자에 조건화된 객관식 문항 응답을 생성하도록 모델을 학습한다. 학생 능력의 함수로서 정답 응답 확률을 재구성하여, 사실상 합성 문항 특성 곡선(ICC)을 생성하고 IRT 매개변수를 추정한다. 6학년 영어 언어 예술(ELA) 문항 데이터셋과 BEA 2024 Shared Task 데이터셋에 대한 평가에서, 이 방법은 기준선 접근법과 경쟁하거나 이를 능가함을 보여준다. 이 시뮬레이션 기반 기법은 문항 변별도 모델링에 특히 효과적인 것으로 보인다.

arXiv:2511.21702v2cs.CL

CSV-Decode: 효율적인 대규모 언어 모델 추론을 위한 검증 가능한 하위 어휘 디코딩

CSV-Decode: Certifiable Sub-Vocabulary Decoding for Efficient Large Language Model Inference

대규모 언어 모델은 큰 어휘에 대한 비용이 큰 출력 층 계산으로 인해 추론 중 상당한 계산 병목을 겪는다. 우리는 각 디코딩 단계마다 작은 하위 어휘를 구성하기 위해 기하학적 상한을 사용하는 새로운 접근법인 CSV-Decode를 제안한다. 이는 정확한 top-$k$ 인증과 $\varepsilon$-인증 소프트맥스 근사라는 이중 정확성 보장을 유지하면서 효율적인 희소(sparse) 계산을 가능하게 한다. 우리 방법은 어휘 임베딩을 오프라인으로 클러스터링하고, 중심점(centroid)과 반경(radius) 상한을 사용하여 계산에서 안전하게 생략할 수 있는 토큰을 식별한다. 우리는 희소 GEMV 커널, 다중 GPU 샤딩, CUDA Graph 최적화를 갖춘 완전한 시스템 구현을 제공한다. 실험 결과는 분포 보장과 낮은 폴백(fallback) 비율을 유지하면서 전체 어휘 디코딩 대비 상당한 속도 향상을 보여준다. 코드 구현은 https://github.com/FastLM/CSV-Decode 에서 이용할 수 있다.

arXiv:2510.17168v2cs.CL

AI 귀속 아이러니의 신경 역학이 부분적인 의도적 입장을 드러낸다

Neural Dynamics of AI-attributed Irony Reveal a Partial Intentional Stance

대규모 언어 모델(LLM)이 점점 더 사회적 에이전트로 배치되고 유머와 아이러니를 생성하도록 학습됨에 따라, 한 가지 질문이 떠오른다: 재치 있는 AI 발언을 접할 때, 사람들은 이를 의도적인 의사소통 행위로 해석하는가? 본 연구는 AI 귀속 아이러니를 이해할 때 사람들이 의도적 입장—행동을 설명하기 위해 정신 상태를 부여하는 것—을 채택하는지 조사했다. 아이러니는 이해에 있어 화용론적 재분석을 통해 의도적인 모순과 의도하지 않은 오류를 구별해야 하므로 좋은 실험 환경을 제공한다. 뇌전도(EEG)를 사용하여 사건 관련 전위(ERP)를 측정함으로써, AI 동반자 또는 인간 중 어느 한쪽에 귀속된 동일한 아이러니적 발화에 대한 행동 및 신경 반응을 비교했다. 우리는 사람들이 AI 의사소통에 대해 의도적 입장을 완전히 채택하지 않는다는 것을 발견했다. 참가자들은 맥락적으로 부조화적인 발화를 AI에 귀속했을 때 인간에 귀속했을 때보다 아이러니로 해석하는 빈도가 유의미하게 낮았다. 이에 상응하여, 초기 의미 처리(P200)와 화용론적 재분석(P600) 모두에서 인간 귀속 아이러니에 비해 AI 귀속 아이러니에 대한 신경 반응이 약화된 것을 관찰했다. 또한, 이러한 신경 반응은 AI의 진정성과 신뢰성에 대한 개인적 인식에 의해 조절되었으며, 긍정적 인식은 인지적 노력을 줄임으로써 화용론적 이해를 촉진했다. 이는 AI에 대한 의도적 입장의 채택이 인공 에이전트에 대한 사람들의 정신 모델에 의해 동적으로 형성되는 유연하고 적응적인 과정임을 시사한다. 이러한 발견은 의사소통 능력의 발전에도 불구하고 AI 시스템이 사회적 주체성에 직면한 장벽을 마주하고 있음을 보여준다: 인간은 인공 대화 상대로부터의 입력을 의도성 부여가 감소된 상태로 처리한다. 이는 인간의 사회적 인지를 이해하고 사회적 상호작용을 목적으로 하는 AI 시스템을 설계하는 데 중요한 함의를 갖는다.