PyTorchKR Papers

최신 논문

총 11,108편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.06157v1cs.CL

숙의적 협력을 위한 LLM 에이전트: 부분 관측 가능성 하의 공동 의사결정에 관한 연구

LLM Agents for Deliberative Collaboration: A Study on Joint Decision Making Under Partial Observability

부분 관측 가능한 환경에서 LLM 에이전트들이 숙의(deliberation)를 통해 공동 의사결정을 수행하는 능력을 평가하기 위해, 메뉴 설계 및 작업 배분 등 여러 도메인에 걸친 확장 가능한 벤치마크를 제안한다. 최신 LLM을 대상으로 한 체계적인 실험 결과, 복잡한 숙의적 협력 과제는 여전히 최첨단 모델에게 도전적이나, 숙의 과정이 오류 수정 기회를 제공해 중앙집중식 기준선(centralized baseline) 대비 성능을 향상시키기도 함을 밝혔다.

arXiv:2607.06145v1cs.CL

프롬프팅 복잡도: LLM에서 텍스트와 행동을 위한 최단 프롬프트

Prompting Complexity: Shortest Prompts for Texts and Behaviors in LLMs

고정된 인스트럭션 튜닝 대규모 언어 모델(LLM)에서 목표 텍스트를 생성하는 가장 짧은 그럴듯한 프롬프트의 길이를 측정하는 프롬프팅 복잡도(prompting complexity)를 자원 제한 콜모고로프 복잡도(Kolmogorov complexity)의 언어 모델 상대적 유사체로 형식화하였다. 근사 출력을 위한 소프트 프롬프팅 복잡도, 프롬프팅 거리, 행동적 프롬프팅 복잡도로 개념을 확장하며, 어떤 텍스트와 행동이 짧은 프롬프트로 접근 가능한지를 실증적으로 연구하기 위한 연구 의제를 제안한다.

arXiv:2607.06140v1cs.CL

CurateEvo: 에이전틱 사후 학습을 위한 데이터 큐레이션 진화

CurateEvo: Data-Curation Evolving for Agentic Post-Training

대규모 언어 모델(LLM) 에이전트는 환경 피드백으로부터 장기 의사결정을 개선할 수 있는 사후 학습 방법을 필요로 한다. 그러나 기존의 에이전틱 사후 학습 파이프라인은 데이터 큐레이션을 고정된 전처리 단계로 취급하는 경우가 많으며, 주로 데이터 증강에 초점을 맞추면서 필터링, 정제, 다운스트림 실패에 대한 적응을 소홀히 한다. 우리는 에이전틱 사후 학습 데이터 큐레이션을 위한 실패 기반 동적 진화 프레임워크인 CurateEvo를 제안한다. CurateEvo는 큐레이션 전략을 실행 가능한 코드로 표현하고, 보류된 개발 세트에서 수집한 실패한 궤적을 사용하여 이를 반복적으로 재작성한다. 각 에포크마다 진화된 전략은 고정된 원시 코퍼스를 지도 미세조정 데이터, 강화학습 데이터, 그리고 추론 시간 메모리 뱅크로 변환한다. 진화 과정은 먼저 반복적인 실패 모드를 진단하고 데이터를 증강, 필터링 또는 정제하여 효과성을 향상시키고, 이후 비용 인식 목적 함수 하에서 중복되거나 낮은 유용성의 학습 턴을 가지치기하여 효율성을 개선한다. 레이블된 데이터 및 야생 데이터(wild-data) 설정 모두에서 ACEBench-Agent, BFCL-V4, τ^2-Bench에 대해 수행한 실험 결과, CurateEvo는 기존 큐레이션 방법보다 지속적으로 우수한 성능을 보이며 평균 점수를 각각 3.2점과 2.7점 향상시켰다. 추가 분석을 통해 CurateEvo가 다양한 사후 학습 레시피와 호환되며 큐레이션 오버헤드를 상당히 줄임을 입증한다.

arXiv:2607.06080v1cs.CL

청사진에서 현실로: LLM 기반 다중 에이전트 시뮬레이션을 통한 퍼트남 사회자본 이론의 모델링과 적용

From Blueprint to Reality: Modeling and Applying Putnam's Social Capital Theory with LLM-based Multi-agent Simulations

SocaSim은 퍼트남의 사회자본 이론(소셜 네트워크, 신뢰, 규범)을 LLM 기반 다중 에이전트 시뮬레이션으로 모델링하기 위한 프레임워크로, BDI 인지 구조와 라운드 기반 집단 행동 실험을 통해 이론적 거시 패턴을 재현한다. 스마트 노인 돌봄 시나리오에 적용한 반사실적 개입 실험에서 초기 신뢰 향상이 기술 수용률을 15.4% 높이고 의사결정 모순을 25.5% 줄이는 인과 경로를 미시적 수준에서 추적했다.

arXiv:2607.06054v1cs.SD

BlueMagpie-TTS: 대만 억양 코드 스위칭 음성을 위한 토큰 효율적 토크나이저, 언어 모델 및 TTS

BlueMagpie-TTS: A Token-Efficient Tokenizer, Language Model, and TTS for Taiwanese-Accent Code-Switching Speech

대만 만다린의 코드 스위칭 TTS 문제를 해결하기 위해, 바이트 수준 BPE 토크나이저 PangolinTokenizer와 번체 중국어 언어 모델 Barbet을 설계하고 이를 VoxCPM2 음향 스택에 연결한 BlueMagpie-TTS를 제안한다. 대만 현지화 테스트 세트에서 CER을 11.45%에서 4.81%로, WER을 14.83%에서 5.36%로 낮추었으며, 블라인드 청취 연구에서 65.6%의 선호도를 기록했다.

arXiv:2607.05992v1cs.CL

PluraMath: 고자원 언어를 넘어 수학적 추론 평가 확장하기

PluraMath: Extending Mathematical Reasoning Evaluation Beyond High-Resource Languages

수학적 추론은 추론 대규모 언어 모델(LLM)을 평가하고 튜닝하는 핵심 과제로 자리잡았으나, 기존 벤치마크는 사전학습 코퍼스와 평가 스위트 모두에서 영어와 중국어가 지배적인 고자원 언어 편향이 심하다. 최근 공개된 PolyMath(Wang et al., 2025) 데이터셋은 중요한 진전을 이루었지만, 여전히 18개의 고자원 언어에만 국한되어 있다. 이 공백을 해소하기 위해 우리는 PluraMath를 소개한다. PluraMath는 PolyMath를 6개 어족에 걸친 18개의 추가 저대표 언어로 확장한 것으로, 중간 자원에서 극저자원 환경까지 포괄한다. 우리는 원어민이 사전 계산된 번역을 철저히 검증하는 인간 큐레이션 파이프라인을 통해 데이터셋을 구축하였다. PluraMath를 활용하여 소형, 중형, 대형, 클로즈드소스 앙상블의 네 가지 모델 규모에 걸쳐 27개의 추론 LLM을 벤치마크하였으며, 다양한 언어 조건에서 최신 모델의 다국어 수학적 추론 능력을 탐색하였다. 세밀한 분석 결과, 고자원 언어와 저대표 언어 간의 수학적 추론 성능 격차가 지속적으로 존재하며, 높은 성능은 대체로 더 나은 인스트럭션 튜닝 능력과 연관됨을 확인하였다. 우리는 저대표 커뮤니티를 위한 다국어 벤치마크 개발의 장벽을 낮추는 것을 목표로 데이터셋, 데이터 수집 파이프라인, 평가 프레임워크를 완전히 오픈소스로 공개한다.

arXiv:2607.05968v1cs.CL

InfluMatch: 4B 모델 비용으로 구현하는 프론티어급 KOL 검색

InfluMatch: Frontier-Quality KOL Search at 4B-Model Cost

태국어 마케팅 기준으로 인플루언서(KOL)를 매칭하는 비용 효율적인 3단계 캐스케이드 시스템 InfluMatch를 제안하며, 검색(50개) → 재순위화(4B 모델, 10개 선별) → 추론(4B 모델, 기준별 점수+태국어 근거) 파이프라인으로 구성된다. 프론티어 모델 Kimi-K2.6(91.8% P@5)과 동등한 94.1% P@5를 달성하면서 출력 토큰을 약 35배 줄였으며, SimPO 기반 쌍별(pairwise) 파인튜닝만이 엔드투엔드 성능 향상에 기여함을 밝혔다.

arXiv:2607.05861v1cs.CL

Mitigating Factual Hallucination in Large Reasoning Models via Mixed-Mode Advantage Regularization

Large reasoning models (LRMs) improve language model capabilities by generating explicit thinking traces before final answers. In factuality-oriented question answering (QA), such thinking often improves overall performance by helping the model recover relevant knowledge and refine its answers. However, we find that this benefit is not uniform at the instance level: explicit thinking can also overturn correct non-thinking answers and lead to factual drift. We refer to this failure mode as \emph{thinking-induced hallucination}. To explain this phenomenon, we formulate explicit thinking in factuality QA as a thinking residual over the model's direct-answer tendency, which can either recover missing knowledge or introduce unsupported associations. Based on this formulation, we propose MARGO, \underline{\textit{M}}ixed-Mode \underline{\textit{A}}dvantage \underline{\textit{R}}egularization for \underline{\textit{G}}rounded \underline{\textit{O}}ptimization, a reinforcement learning framework that uses non-thinking rollouts as same-model references in advantage estimation. By constructing mixed-mode rollout groups with both thinking and non-thinking trajectories, MARGO evaluates whether explicit thinking adds factual value beyond direct answering, thereby suppressing hallucination-prone thinking while preserving beneficial thinking behaviors. Experiments across multiple factuality-oriented QA benchmarks demonstrate that MARGO improves factual reliability over strong baselines, while evaluations on mathematical benchmarks show that it preserves general reasoning ability.

arXiv:2607.05764v1cs.CL

주입할 것인가, 탐색할 것인가? 거래 법률 문서의 LLM 분석을 위한 토큰 효율적 검색

Inject or Navigate? Token-Efficient Retrieval for LLM Analysis of Transactional Legal Documents

거래 법률 문서 집합에 대한 질의응답 시 전체 코퍼스를 LLM 컨텍스트 윈도우에 주입하는 방식 대신, 구조 인식 청킹 기반의 임베딩 검색(NAVEMBED)과 압축 구조화 인덱스 탐색(NAVINDEX) 두 가지 검색 방식을 비교 평가했다. 20개 질문 벤치마크에서 NAVEMBED는 토큰을 최대 29.9배 줄이면서도 주입 방식과 동등한 품질을 유지했고, NAVINDEX는 답변 컨텍스트를 약 56배 압축하고 비용을 25% 절감하면서 전체 18개 문서 관련 질문에서 동률을 기록했다.

arXiv:2607.05752v1cs.CL

대규모 언어 모델은 언제 검색해야 하는가? 검색 라우팅을 위한 반사실적 지도학습

When Should LLMs Search? Counterfactual Supervision for Search Routing

대규모 언어 모델(LLM)이 검색 도구를 항상 사용하는 것이 아니라 실제로 필요한 경우에만 사용하도록 인스턴스 수준의 검색 라우팅(search routing) 문제를 공식화하고, 검색 없는 실행과 강제 검색 실행의 반사실적(counterfactual) 결과를 비교해 오라클 레이블을 구성한 뒤 지도 파인튜닝과 선호도 최적화(preference optimization)로 정책을 학습시켰다. 그 결과 Gemma E2B와 Qwen3.5-4B 모두에서 라우팅 macro-F1이 약 0.71에서 0.82~0.84 수준으로 크게 향상되었다.

arXiv:2607.05722v1cs.CL

Nemotron-Labs-Diffusion: 자기회귀, 디퓨전, 셀프-스페큘레이션 디코딩을 통합한 삼중 모드 언어 모델

Nemotron-Labs-Diffusion: A Tri-Mode Language Model Unifying Autoregressive, Diffusion, and Self-Speculation Decoding

Nemotron-Labs-Diffusion은 자기회귀(AR), 디퓨전, 셀프-스페큘레이션 디코딩을 단일 아키텍처에서 통합한 삼중 모드 언어 모델로, 결합 AR-디퓨전 목적함수로 학습하여 두 패러다임의 장점을 상호 보완적으로 활용한다. 3B·8B·14B 규모로 스케일링된 모델 패밀리는 최신 오픈소스 AR 및 디퓨전 언어 모델 대비 정확도와 속도 모두에서 앞서며, 특히 Nemotron-Labs-Diffusion-8B는 Qwen3-8B 대비 순전파당 6배 더 많은 토큰을 디코딩해 SPEED-Bench에서 4배 높은 처리량을 달성한다.

arXiv:2607.05614v1cs.CL

BaFCo: 복잡한 벵골어 서식 이해를 위한 문서 이해 벤치마크

BaFCo: A Document Understanding Benchmark for Complex Bangla Form Comprehension

BaFCo는 저자원 언어인 벵골어(Bangla) 문서 이해의 공백을 메우기 위해 방글라데시 정부 서식 200개를 기반으로 구축된 벤치마크로, 문서 레이아웃 분석(DLA)과 핵심 정보 추출(KIE)을 위한 26개 세밀 엔티티 유형과 관계 어노테이션을 제공한다. ChatGPT, Gemini, Claude, Qwen, Kimi 시리즈 MLLM을 제로샷 및 사고의 연쇄(Chain-of-Thought) 프롬프트로 평가한 결과, 현재 모델들은 세밀한 서식 엔티티 위치 파악에서 뚜렷한 한계를 드러냈으며 Gemini 3 Pro가 DLA와 KIE 모두에서 가장 높은 성능을 기록했다.

arXiv:2607.05612v1cs.CL

현대 엔드-투-엔드 음성 인식에서 언어 모델 퍼플렉시티와 ASR 단어 오류율 간의 관계 재고

Revisiting the Relation Between Language Model Perplexity and ASR Word Error Rate for Modern End-to-End Speech Recognition

현대 엔드투엔드(end-to-end) ASR 시스템에서 언어 모델 퍼플렉시티(PPL)와 단어 오류율(WER) 간의 관계를 재검토하여, 외부 LM이 여전히 CTC 및 AED 모델을 개선하며 로그-로그 공간에서 선형 관계가 대체로 유지됨을 보인다. 특히 AED 시스템에서 내부 언어 모델(ILM) 차감이 PPL-WER 관계를 변화시키며, LLM 퍼플렉시티는 일반 신경망 LM과 동일한 추세를 따름을 실험적으로 분석한다.

arXiv:2607.05545v1cs.CL

대부분의 LLM 동조성은 발화자를 필요로 하지 않는다: 동료 압력 벤치마크에서의 발화자 없는 기준선 측정

Most LLM Conformity Needs No Speaker: Measuring the Speaker-Free Floor in Peer-Pressure Benchmarks

기존 LLM 동조성(conformity) 벤치마크는 발화자 존재와 반복 오답이라는 두 단서를 혼합하는 교란 변수를 가지며, 이를 분리하기 위해 도입한 발화자 없음(no-source) 조건에서 6개 LLM과 7개 데이터셋 실험 결과 초기 정답의 66.5%가 잘못된 방향으로 수정되었다. 이는 단순 재질문의 10.3%와 비교해 대부분의 겉보기 동조성이 사회적 발화자가 아닌 반복된 답변 텍스트 자체에 기인함을 보이며, 동조성 벤치마크는 발화자 귀인 증분을 측정하기 전에 이 발화자 없는 기준선(speaker-free floor)을 먼저 측정해야 한다고 주장한다.

arXiv:2607.05477v1cs.MA

다중 에이전트 대규모 언어 모델 대화에서의 결정 프로토콜

Decision Protocols in Multi-Agent Large Language Model Conversations

대규모 언어 모델(LLM)의 태스크 성능 향상은 필수적이지만, 이러한 모델의 스케일링은 수확 체감 및 높은 비용과 같은 상당한 과제에 직면해 있다. 다중 에이전트 시스템(MAS)은 전문화된 에이전트들 사이에 태스크를 분산하여 전체적인 태스크 성능을 향상시키는 유망한 해결책을 제시한다. 이를 통해 토론 및 의사결정 과정으로 인한 테스트 시간 증가를 감수하는 대신 학습 비용을 줄일 수 있다. 결정 프로토콜은 여러 에이전트가 최종 솔루션 생성을 위해 협력하는 방식을 규정하기 때문에 MAS의 핵심 구성 요소이다. 본 논문은 Multi-Agent LLM(MALLM) 프레임워크를 소개하며, 이는 대화형 태스크 해결을 위한 다중 에이전트 토론을 시뮬레이션하고자 투표(voting), 합의(consensus), 판사 결정(judge decision) 메커니즘 등 다양한 결정 프로토콜을 구현하고 평가한다. 단일 결정 프로토콜을 사용하거나 제한된 데이터셋에서만 테스트한 기존 연구와 달리, 본 연구는 지식 기반 데이터셋(MMLU, MMLU-Pro, GPQA)과 논리 기반 데이터셋(StrategyQA, MuSR, Math-lvl-5, SQuAD 2.0)에 이르는 다양한 태스크 집합에 대한 영향을 체계적으로 검토한다. 실험 결과, 합의 프로토콜은 지식 집약적 도메인에서 우수한 성능을 보이는 반면, 투표 및 판사 프로토콜은 논리 기반 태스크에 더 효과적임을 보여준다. 독립적인 솔루션 생성을 통한 응답 다양성 증가는 결정 품질을 향상시키는 반면, 결정 과정에서의 정보 접근 방식 변화는 최소한의 영향만 미친다.

arXiv:2607.05410v1cs.CY

CANONIC: 거버넌스는 컴파일이다

CANONIC: Governance Is Compilation

CANONIC은 대규모 언어 모델(LLM)이 생성하는 검증 불가능한 콘텐츠(slop) 문제를 해결하기 위해, 컴파일러 이론의 구문·스코프·타입 시스템에 대응하는 세 가지 공리(Triad, Inheritance, Introspection)를 기반으로 콘텐츠 승인을 선형 시간 내에 결정하는 거버넌스 프레임워크다. 사전 등록된 크로스-프로바이더 벤치마크 평가 결과, 구조적 승인 게이트는 slop을 자동으로 필터링하지 못하며, 이 프레임워크의 역할은 진위 판별이 아닌 모든 주장을 커밋과 증거 윈도우에 고정하여 감사 가능한 기록을 유지하는 것임을 보인다.

arXiv:2607.05405v1cs.CY

CCBENCH: 건강 질의를 활용한 암묵적 규범 신호를 통한 대규모 언어 모델의 문화적 역량 평가

CCBENCH: Assessing LLM Cultural Competence via Implicitly Signaled Norms using Health Queries

CCBENCH은 대규모 언어 모델(LLM)의 문화적 역량을 평가하기 위한 프레임워크로, 문화적 정체성을 이분법적 소속이 아닌 규범 준수 상태의 연속체로 다루며, 건강 분야 사례 연구인 CCBENCH-Health를 통해 6개 문화권 60개 페르소나와 3,120개 상호작용을 분석한 결과 최고 성능 모델조차 문화적으로 적절한 응답 비율이 20~30%에 불과하고 특히 아프간 맥락에서 8.8%로 극히 저조함을 보였다.

arXiv:2607.05399v1cs.CL

장문 맥락 서빙을 위한 KV 캐시 최적화 기법의 태스크 품질 및 시스템 성능 벤치마킹

Benchmarking KV-Cache Optimizations across Task Quality and System Performance for Long-Context Serving

장문 컨텍스트 서빙에서 KV 캐시 증가 문제를 해결하기 위해 양자화(KIVI, TurboQuant), 가지치기(SnapKV), 병합(CaM) 기법을 Llama-3.1-8B-Instruct와 Mistral-7B-Instruct-v0.3 모델로 태스크 품질과 시스템 효율을 동시에 평가하는 워크로드 인식 벤치마크를 제시한다. 실험 결과 압축률 단독으로는 엔드투엔드 성능을 예측하기 어려우며, KIVI4는 모델 전반에서 가장 안정적인 품질을, SnapKV는 장문 맥락에서 최고 처리량을 보여 획일적 압축 대신 워크로드 특성에 맞는 KV 캐시 메커니즘 선택이 필요함을 시사한다.

arXiv:2607.05398v1cs.CL

페르소나가 에이전트의 Split or Steal 게임 플레이에 미치는 영향

How Personas Can Influence Agents to Play Split or Steal

페르소나 프롬프트가 반복적 사회적 딜레마 게임인 Split or Steal에서 LLM 에이전트의 전략적 행동에 미치는 영향을 Ministral 3:3b, phi4:14b, Gemma3:12b, Gemma4:e4b 네 가지 모델로 실험한 결과, 전체 라운드의 약 74%에서 상호 협력(Split)이 우세했으며 모델 종류와 Big Five 성격 특성 기반 페르소나 유형이 협력 및 착취 패턴에 유의미한 영향을 미쳤다. 친사회적(Prosocial)·원칙적(Principled) 페르소나는 가장 일관되게 협력적이었던 반면, 분석적(Analytical) 페르소나는 가상 인간(Virtual Human)을 착취할 가능성이 더 높았으며, 우정 관련 대화는 Split 결정과, 돈·복수 관련 내용은 Steal 결과와 연관되는 경향을 보였다.

arXiv:2607.05391v2cs.AI

LLM-as-a-Verifier: 범용 검증 프레임워크

LLM-as-a-Verifier: A General-Purpose Verification Framework

추가 학습 없이 에이전트 태스크를 검증하는 범용 프레임워크 LLM-as-a-Verifier를 제안하며, 이산적 점수 대신 채점 토큰 로짓(logit)의 분포 기댓값으로 연속 점수를 산출해 점수 세분성, 반복 평가, 기준 분해 세 축에서 검증 스케일링이 가능함을 보인다. Terminal-Bench V2(86.5%), SWE-Bench Verified(78.2%), RoboRewardBench(87.4%), MedAgentBench(73.3%)에서 최고 성능을 달성하며, 강화학습(RL)의 밀집 보상 신호로도 활용해 SAC와 GRPO의 샘플 효율성을 향상시킨다.