PyTorchKR Papers

최신 논문

총 4,696편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.24063v1cs.CL

Selective Capability Unlearning in End-to-End Spoken Language Understanding

회귀형 end-to-end 음성 언어 이해(SLU)에서 특정 intent만 억제하면 intent prefix가 주어질 때 slot 생성 조건부 매핑이 남는 capability persistence 문제를 지적하고, Binding Subspace Unlearning(BSU)로 intent-slot 결합 표현 방향을 격리·약화하는 표현 수준 언러닝을 제안한다. SLU 벤치마크에서 BSU는 강제 prefix 복원 가능성을 크게 줄이면서(BRR@10 약 60%, 의미 유사도 약 56% 감소) 유지 intent 성능은 보존한다.

arXiv:2606.22748v2cs.CL

실환경에서의 AI 픽션

AI Fiction in the Wild

50만 건 이상의 익명 ChatGPT 대화(WildChat)를 분석한 결과, 대화의 3분의 1 이상이 원작·롤플레이·팬픽·에로티카 등 소설 생성에 쓰였고, 특히 파워 유저와 같은 이야기를 반복·변주하는 infinite story demanders 패턴이 두드러졌다. 저자는 LLM이 독자와 작가 역할을 닫힌 대화 루프 안에서 무너뜨려 solipsistic reader-writer를 만들 수 있다고 주장하며, 팬픽·에로티카 중심의 즉시성·반복·틈새 조합 수요가 맞춤형·반복적 문화 형식과 구조적으로 닮았다고 논한다.

arXiv:2606.16428v2cs.CL

LectūraAgents: A Multi-Agent Framework for Adaptive Personalized AI-Assisted Learning and Embodied Teaching

LectūraAgents는 ProfessorAgent가 연구·계획·검토·강의 전달을 조율하는 계층적 멀티에이전트(multi-agent) 프레임워크로, 학습자 프로필에 맞춰 필기·강조·밑줄 등 가시적 교수 행동과 발화를 TASA(Teaching Action-Speech Alignment)로 정렬하는 적응형 체화 교수(embodied teaching)를 제공한다. 고등·학부·대학원 과목 평가에서 전문 교육자 검증을 통해 기존 접근 대비 강의 내용·체화 교수·평가·개인화 품질이 일관되게 향상됨을 보였다.

arXiv:2606.03867v2cs.CL

A Training-Free Mixture-of-Agents Framework for Multi-Document Summarization using LLMs and Knowledge Graphs

다중 문서 요약에서 복잡한 문서 간 관계 포착, 지도학습 데이터 의존, 도메인·언어 일반화 한계를 줄이기 위해 대규모 언어 모델(LLM)과 지식 그래프를 결합한 학습 없는(training-free) 혼합 에이전트(MoA) 프레임워크를 제안한다. 추출형 선택, 지식 그래프 기반 추상화, 추상 요약을 담당하는 전문 에이전트들의 결과를 다관점 일관성 메커니즘으로 통합했으며, 영어·베트남어 4개 데이터셋에서 최신 최고 또는 경쟁력 있는 성능을 보였다.

arXiv:2605.00348v2cs.CR

Block-wise Codeword Embedding for Reliable Multi-bit Text Watermarking

기존 대규모 언어 모델(LLM) 다중 비트 텍스트 워터마킹은 용량을 우선해 오검출률(FPR)이 치명적으로 높고, 거부 임계값은 검출 민감도(TPR)를 무작위 수준으로 떨어뜨리는 구조적 한계가 있다. BREW는 블록 단위 독립 투표로 메시지를 추정한 뒤 윈도우 이동 검증으로 지정된 코드워드만 확인하는 2단계 방식으로 패러다임을 검증 중심으로 전환했으며, 10% 동의어 치환 공격에서 TPR 0.965·FPR 0.02를 달성해 모델에 무관한 신뢰 가능한 다중 비트 워터마킹을 보여준다.

arXiv:2603.16131v2cs.CL

SciZoom: A Large-scale Benchmark for Hierarchical Scientific Summarization across the LLM Era

SciZoom은 NeurIPS·ICLR·ICML·EMNLP 4개 주요 ML 학회 44,946편(2020–2025)을 Pre-LLM·Post-LLM 시대로 나눈 계층적 과학 요약 벤치마크로, Abstract·Contributions·TL;DR 세 수준의 요약 타깃(최대 600:1 압축)을 제공한다. 언어학적 분석에서는 Post-LLM 시기에 관용적 표현이 최대 10배 늘고 완곡 표현(hedging)이 23% 줄어, LLM 보조 집필이 더 자신 있지만 동질화된 학술 문체를 만든다는 점을 보여준다.

arXiv:2508.10971v2cs.CL

Rule2Text: A Framework for Generating and Evaluating Natural Language Explanations of Knowledge Graph Rules

Rule2Text는 지식 그래프(KG)에서 채굴된 논리 규칙이 복잡하고 표기가 불투명해 해석이 어렵다는 문제를, LLM으로 규칙의 자연어 설명을 생성·평가하는 프레임워크로 다룬다. Freebase 변형과 ogbl-biokg 등 AMIE 3.5.1 규칙에 대해 제로샷·퓨샷·변수 타입·Chain-of-Thought 프롬프트 전략을 비교하고, 인간 평가와 LLM-as-a-judge로 품질을 검증한 뒤 고품질 데이터로 Zephyr를 파인튜닝해 설명의 정확성과 명료성이 유의미하게 개선됨을 보인다.

arXiv:2503.13505v3cs.CL

Ensemble Learning for Large Language Models in Text and Code Generation: A Survey

텍스트·코드 생성에서 단일 대규모 언어 모델(LLM)의 출력 불일치, 편향, 폐쇄형 제약을 완화하기 위한 앙상블(ensemble) 기법을 weight merging, knowledge fusion, 전문가 혼합(MoE), reward ensemble, output ensemble, routing, cascading 등 7가지로 분류해 검토한 서베이이다. 방법별 역량과 텍스트·코드 생성 적용 사례를 분석한 결과 다양성·출력 품질·적용 유연성 향상이 확인되며, 다중모달 LLM으로의 확장 가능성도 논의한다.

arXiv:2606.24058v1cs.CV

VisChronos: 실세계 사건을 활용한 이미지 캡셔닝의 혁신

VisChronos: Revolutionizing Image Captioning Through Real-Life Events

본 논문은 실세계의 역사적 사건을 캡션 생성의 지식 원천으로 활용함으로써 시각적 콘텐츠와 자연어 이해 사이의 의미론적 간극을 해소하는 것을 목표로 한다. 우리는 대규모 언어 모델(LLM)과 밀집 캡셔닝 모델을 활용하여 단일 입력 이미지에서 실제 사건을 식별하고 기술하는 새로운 프레임워크인 VisChronos를 제안한다. 본 프레임워크는 상세하고 맥락을 인식하는 사건 설명을 자동으로 생성할 수 있으며, 맥락적 서사를 포착하는 데 있어 기존 방법의 한계를 해결하기 위해 생성된 캡션의 기술적 품질과 맥락적 관련성을 향상시킨다. 나아가, 우리는 복잡한 사건을 식별하고 이해하는 모델의 능력을 강화하기 위해 제안된 프레임워크를 사용하여 구체적으로 구축된 새로운 데이터셋인 EventCap(https://zenodo.org/records/14004909)을 소개한다. 사용자 연구를 통해 정확하고 일관성 있으며 사건 중심의 설명을 생성하는 우리 솔루션의 효용성이 입증되었으며, 이는 사건 중심 이미지 이해 분야의 미래 연구를 위한 토대를 마련한다.

arXiv:2606.05896v2cs.CV

공명하는 마음들: 마음 이론을 갖춘 폐쇄 루프 소셜 아바타

Resonant Minds: Closed-Loop Social Avatars with Theory of Mind

진정한 사회적 지능을 갖춘 실감나는 디지털 휴먼을 만들려면 인지 추론과 멀티모달 생성을 일관된 프레임워크 안에서 통합해야 한다. 현재 접근법들은 이를 별개의 과제로 다룬다: 대규모 언어 모델(LLM)은 대화에서 뛰어나지만 구현된 표현이 부족하고, 확산 기반 토킹 헤드 모델은 시각적 충실도를 달성하지만 사회적 인지를 무시한다. 이 격차를 해소하기 위해, 우리는 지각, 사회적 추론, 표현을 연속적인 상호작용 사이클로 통합하는 폐쇄 루프 이중 에이전트 프레임워크를 제안한다. 지각 모듈은 비디오에서 파트너의 멀티모달 행동을 분석하고, 사회적 추론 모듈은 마음 이론(Theory of Mind)을 통해 숨겨진 정신 상태를 추론하며 앙상블 메커니즘을 통해 응답을 선택한다. 표현 모듈은 화자의 발화 및 표정과 청자의 반응적 행동을 공동으로 합성하는 감정 제어 가능한 비디오를 생성하며, 이전 연구에서는 포착하지 못했던 양방향 역학을 담아낸다. 우리는 또한 정보 비대칭 하에서의 평가를 지원하기 위해 심리학적으로 근거한 페르소나와 사적 사회적 목표를 갖춘 계층적 Persona-Scenario 데이터셋을 구축한다. 이 데이터셋에 대한 실험은 대화 품질과 비디오 생성 지표 모두에서 경쟁력 있거나 우수한 성능을 보여준다. 특히, 우리의 방법은 주요 대화 품질 차원에서 완전한 정보를 갖는 Script 모드마저 능가하며, 이는 불확실성 하에서의 명시적 정신 상태 추론이 무제한적인 정보 접근보다 더 사려 깊은 대화를 이끌어낼 수 있음을 시사한다. 프로젝트 페이지: https://resonantminds.github.io/

arXiv:2606.24635v1cs.HC

Visualizing "We the People": Bridging the Perception Gap through Pluralistic Data Storytelling

Traditional visual data storytelling relies on binary graphics that depict two simplified groups in conflict. This can increase political polarization by oversimplifying intra-group disagreements and erasing ambiguity and shared ideas or values. This can inadvertently foster "us versus them" thinking. Intentional, pluralistic design choices for AI-enabled digital platforms can produce visualizations that emphasize nuance, opinion distribution, and intergroup commonalities. To demonstrate this potential, we examine deliberative technologies that map high-dimensional opinion spaces and highlight areas of both consensus and dissensus. The paper highlights the We the People deliberation conducted by Jigsaw and the Napolitan Institute in September 2025, which engaged over 2,400 Americans across all 435 congressional districts in an AI-supported, asynchronous dialogue regarding freedom and equality. By utilizing AI to synthesize long-form, text-based participant inputs into interactive "opinion landscapes," the initiative provided an alternative format for pluralistic data storytelling that humanized diverse viewpoints and revealed hidden areas of substantial broad consensus. The paper concludes that shifting from divisive, contrast-heavy visual frameworks to distribution-focused, interactive models represents a highly scalable, low-cost intervention capable of bridging perceptual gaps and cultivating a more resilient, collaborative democratic culture.

arXiv:2606.24392v1cs.AI

ATRIA: Adaptive Traceable ECG Reporting with Iterative Agents

Existing ECG report generation is tightly coupled -- interpretation and reporting fused end-to-end, so errors propagate without stage-level recourse -- while agent-based systems decouple tasks but remain single-pass, never revisiting earlier outputs. Clinical ECG reporting instead unfolds iteratively, requiring progressive context integration and bidirectional editing. We present \textsc{ATRIA}, a multi-agent ECG reporting system that mirrors the clinician's iterative workflow: it binds every report claim to its supporting evidence, flags statements unsupported by that evidence, incorporates additional context mid-session, and lets clinicians verify and revise individual findings rather than accept one opaque output. Because its agents use ECG analysis models already in clinical use, the underlying findings are clinically trustworthy; and as a cloud-based web service, \textsc{ATRIA} is ready for immediate deployment. We demonstrate \textsc{ATRIA} through four interaction cases, with a live demo and video available.

arXiv:2606.24196v1cs.AI

Navigating User Behavior toward Personalized Multimodal Generation

Modern AIGC pipelines deliver high-fidelity images and videos but presuppose a well-formed creation instruction, while end users rarely articulate visual details, leaving generators misaligned with user demand. We study personalized content generation, which turns a user's interaction history into an executable instruction for downstream synthesis, and identify two obstacles: behavior must be encoded in a form legible to language reasoning, and the model must acquire instruction-writing skill absent from both pretraining and behavior data. We propose NaviGen, which represents each item with a dual identifier coupling a collaborative code and a textual code as a behavioral substrate and a semantic bridge in one token stream. On this representation, a two-stage SFT+RL pipeline first distills preference reasoning and instruction writing from evolutionarily searched supervision, then aligns generation with user intent through hierarchical and self-consistent rewards. Experiments across product, game, and short-video domains show that NaviGen improves personalized image and video generation, strengthens next-item prediction, and yields more specific, relevant, and visually generatable instructions. Our code is anonymously released at: https://github.com/iLearn-Lab/NaviGen.

arXiv:2605.09781v2cs.NE

다양한 LLM 생성을 위한 매개변수 효율적 신경진화: 프롬프트 임베딩 진화를 통한 품질-다양성 최적화

Parameter-Efficient Neuroevolution for Diverse LLM Generation: Quality-Diversity Optimization via Prompt Embedding Evolution

모드 붕괴로 출력이 동질화되는 LLM에서, QD-LLM은 고정된 대규모 모델의 프롬프트 임베딩(~32K 매개변수)을 품질-다양성(QD) 최적화와 그래디언트 없는 신경진화로 진화시켜 파인튜닝 없이 생성 행동을 유도한다. HumanEval, MBPP, 창의적 글쓰기 벤치마크에서 QDAIF 대비 커버리지 46.4%·QD-Score 41.4% 향상을 보였고, 다양한 아카이브가 테스트 생성과 미세조정 데이터 품질 개선에도 기여함을 Llama-3-70B·Mistral-Large에서 검증했다.

arXiv:2510.10854v3cs.LG

이산 상태 확산 모델: 표본 복잡도 관점

Discrete State Diffusion Models: A Sample Complexity Perspective

텍스트·시퀀스·조합 구조 생성에 필수적인 이산 상태 확산 모델의 이론적 이해 공백을 메우기 위해, 점수(score) 추정 오차를 통계·근사·최적화·클리pping(clipping) 요소로 분해하는 프레임워크를 제시하고 최초의 표본 복잡도(sample complexity) 상한 $\widetilde{\mathcal{O}}(\epsilon^{-2})$를 도출한다. 이 분석은 유한 데이터와 SGD 최적화 하에서 이산 상태 확산 모델이 목표 분포에 대해 KL 발산 $\epsilon$ 이내로 샘플을 생성하는 데 필요한 표본 수를 정량화한다.

arXiv:2606.23233v1cs.CL

동료 심사 생성을 위한 판단 근거 확장

Judgment-Grounded Expansion for Peer Review Generation

자동 peer review 생성의 책임성 한계를 보완하기 위해, 심사자가 평가적 주장을 제공하면 시스템이 논문 근거와 함께 리뷰 코멘트 후보로 확장하는 판단 근거 확장(judgment-grounded expansion)을 생성-검증-정제(generate-check-refine) 과정으로 형식화한다. 사용자 연구로 인간-모델 상호작용 데이터를 수집하고, 대규모 평가를 위한 시뮬레이션 방법과 conformal prediction 기반 후보 집합 큐레이션으로 후보 크기와 목표 커버리지 균형을 맞출 수 있음을 보인다.

arXiv:2606.23196v1cs.CL

내재적 자기 수정은 언제 도움이 되는가? 과제 감수적 분석

When Does Intrinsic Self-Correction Help? A Task-Sensitive Analysis

내재적 자기 수정(SC)이 외부 피드백 없이 초기 답을 재검토할 때, 명시적 제약 검증·복잡한 추론 재검토·단어 게임에서의 대안 전략 비교처럼 과제 구조가 수정 단계의 역할을 뒷받침하는 설정에서 SAT, BBEH, HLE, Wordle, Hangman, Codenames 등 다수 벤치마크와 모델에서 일관된 성능 향상을 보인다. SC는 초기 출력을 균일하게 개선하는 범용 기법이라기보다, 과제마다 수정 단계가 수행할 수 있는 역할에 따라 유용성이 달라지는 과제 의존적 추론 시점 전략으로 이해하는 것이 타당하다.

arXiv:2606.23124v1cs.CL

PRIDE: 공감 대화 생성을 위한 특권 정보 강화 지식 증류

PRIDE: Privileged Information-enhanced Distillation for Empathetic Dialogue Generation

자원이 제한된 환경에서 공감 대화 생성 LLM의 배포를 돕기 위해, 학습 시에만 쓸 수 있는 심리학적 주석·상황 요약 등 특권 정보를 활용하는 PRIDE 지식 증류(distillation) 방법을 제안한다. 공감 추론 프롬프트, 다중 소스 어텐션, 로짓·특징 이중 정렬 손실로 추론 시 추가 입력 없이 교사 모델의 공감적 추론을 작은 학생 모델에 전달하며, 다중 모달·텍스트 데이터셋에서 정확도와 의미적 관련성 측면에서 교사 모델과 대등하거나 능가하는 결과를 보였다.

arXiv:2606.23107v1cs.CL

템플릿 제약 LaTeX 변환을 위한 이중 트랙 프레임워크

A Dual-Track Framework for Template-Constrained LaTeX Conversion

구조화된 Markdown 초안을 템플릿 준수 LaTeX로 변환하는 이중 트랙(Dual-Track) 프레임워크를 제안해, 오프라인에서 템플릿 제약을 재사용 매니페스트로 추출하고 온라인 하이브리드 파이프라인에서는 의미 메타데이터·서지 참고문헌·복잡한 표·그림 레이아웃 등 추론 집약 구간에만 LLM을 쓰며 결정론적 처리는 규칙 기반 엔진에 위임한다. 7개 LaTeX 템플릿과 56편 연구 논문 평가에서 구조적 충실도·레이아웃 제약 충족·컴파일 성공률이 Pandoc 및 종단간 LLM 베이스라인보다 우수함을 보였다.

arXiv:2606.23030v1cs.CL

그들을 본 적이 있습니까? 대규모 언어 모델 심문을 통한 엔티티 수준 멤버십 추론

Have You Ever Seen Them? Entity-level Membership Inference through Interrogating Large Language Models

LLM이 특정 샘플을 그대로 암기하지 않아도 흩어진 언급으로 실세계 엔티티 지식을 축적·노출할 수 있다는 점에서, 생성 텍스트만 관측 가능한 레이블 전용 블랙박스 설정에서 대상 엔티티 관련 정보의 학습 여부를 판별하는 엔티티 수준 멤버십 추론(entity-level membership inference)을 제안한다. 제한된 엔티티 단서로 프롬프트를 구성해 응답을 유도하고 생성 텍스트의 의미적 특징으로 멤버십을 추론하는 다섯 가지 심문 전략을 형식화했으며, 인물 엔티티 실험에서 AUC 최대 0.97과 최고 기준선 대비 Balanced Accuracy 6.0%–17.5% 향상을 보였다.