PyTorchKR Papers

최신 논문

총 11,108편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.25755v1cs.CL

증후, 시너지, 안전성: 한의학 처방 생성을 위한 구조화된 추론과 지식 기반 정렬

Syndrome, Synergy, and Safety: Structured Reasoning and Knowledge-Driven Alignment for TCM Prescription Generation

대규모 언어 모델(LLM)을 전통 한의학(TCM) 처방 생성에 적용하면 임상적으로 중요한 세 가지 공백이 드러난다. 모델은 이-법-방-약(li-fa-fang-yao) 패러다임을 따르는 감사 가능한 추론 없이 end-to-end 매핑만 생성한다(SR Gap), 각 진료를 고립적으로 다루어 수증가감(sui zheng jia jian)에 따른 추적 조정을 하지 않는다(LA Gap), 십팔반(Shi Ba Fan)과 같은 절대 금기 규칙을 강제하지 못한다(SC Gap). 본 연구는 각 공백을 해소하는 점진적 4단계 프레임워크(SFT $\to$ PG-CoT $\to$ Dynamic $\to$ K-RL)를 제안한다. PG-CoT는 이-법-방-약 패러다임 하에서 CoT 증류를 제약하여 감사 가능한 진단 연쇄를 생성하고, Dynamic SFT는 명시적 전이 추론으로 환자 궤적을 모델링하며, K-RL은 결정론적 약리학 규칙을 규칙 기반 DPO 선호 신호로 인코딩한다. 12개의 파인튜닝 모델과 6개의 제로샷 베이스라인에 걸친 실험에서, 본 프레임워크는 제로샷 베이스라인 대비 처방 품질을 크게 향상시키며, 7B 모델(Mistral-7B)은 세 가지 TCM 평가 지표 모두에서 제로샷 GPT-5를 능가한다.

arXiv:2609.25669v1cs.CL

발화에서 네트워크로: 서브레딧 간 슬랭 채택 및 확산 모델링

From Utterances to Networks: Modelling Slang Adoption and Diffusion Across Subreddits

온라인 커뮤니티에서 신조어의 채택과 확산은 최근 몇 년간 다시 주목받고 있다. K-pop 노래를 가리키는 APT와 같은 인터넷 슬랭 용어나, 난처하지만 중추적인 사건을 뜻하는 Canon Event와 같은 표현이 온라인에서 유행함에 따라, 이들의 성공에 기여하는 메커니즘을 이해하는 일이 점점 더 중요해지고 있다. 선행 연구는 슬랭 확산을 사회적 상호작용의 관점 또는 슬랭 자체의 언어적 속성의 관점에서 설명해 왔으나, 두 관점을 함께 다루는 경우는 드물었다. 주요 장애물 중 하나는 대규모 온라인 커뮤니케이션에서 슬랭 사용을 주석(annotation)하는 데 드는 높은 비용이었다. 그러나 최근 대규모 언어 모델(LLM)의 발전으로 이를 이러한 작업을 위한 확장 가능한 주석 도구로 활용할 수 있게 되었다. 본 연구에서는 먼저 실제 Reddit 커뮤니케이션에서 슬랭 사용을 탐지하는 LLM의 성능을 평가하기 위해 사람이 주석한 벤치마크를 구축한다. 이어서 LLM 기반 주석을 활용하여 슬랭의 채택과 확산을 모델링한다. 분석 결과, 브리징 자본(bridging capital)이 높은 슬랭 확산자는 이후의 채택 증가와 연관되는 반면, 본딩 자본(bonding capital)이 높은 확산자는 채택 감소와 연관되는 것으로 나타났다. 또한 슬랭 용어가 사용되는 맥락이 더 넓을수록 신규 사용자가 이를 공식적으로 채택하기까지의 시간이 더 길어진다는 것도 확인했다. 종합하면, 이러한 결과는 소셜 네트워크 구조와 언어적 맥락이 모두 온라인 커뮤니티에서 신조어의 확산을 좌우함을 시사한다.

arXiv:2609.25537v1cs.CL

LLM 추론을 위한 긴 컨텍스트의 답변 정렬 메모리 임베딩 압축

Compressing Long Context into Answer-Aligned Memory Embeddings for LLM Inference

대규모 언어 모델(LLM) 추론은 셀프 어텐션(self-attention)의 이차 스케일링과 KV 캐시의 선형 스케일링에 의해 제약되어, 컨텍스트 길이가 늘어날수록 지연 시간, 에너지 소비, GPU 메모리 요구가 증가한다. 기존 소프트 압축(soft-compression) 방법은 추론 시점에 쿼리 기반 메모리 선택이 없거나, 답변 대상 지도(answer-targeted supervision) 없이 학습하거나, 압축을 특정 디코더 아키텍처에 강하게 결합하는 한계가 있다. 본 연구는 Context-to-Answer-Aligned Memory Compression(CMC) 프레임워크를 제안한다. 이는 긴 입력 컨텍스트를 동결된(frozen) 디코더의 임베딩 공간에 정렬된 컴팩트한 Context Memory Embeddings(CMEs)로 압축하여 디코더 가중치를 수정하지 않고 추론 비용을 줄인다. CMC는 질문 기반 CME 선택과 지역 컨텍스트 윈도우(local context window)를 결합한 2단 KV 캐시를 도입하고, 동결된 LLM으로부터 답변 대상 지식 증류(distillation)로 압축기를 학습한다. 9가지 인코더-디코더 조합과 4개 QA 벤치마크에 걸친 실험에서 CMC는 기준선을 일관되게 능가하며, SQuAD에서 최대 7.3 EM 및 4.0 F1 포인트 향상을 달성하는 동시에, 생성 토큰 3,000개 기준 추론 시간과 에너지 소비를 최대 20% 줄이고 피크 예약 GPU 메모리를 최대 50% 줄였다. ablation 연구는 각 아키텍처 구성 요소와 학습 목표가 성능에 기여함을 확인했다.

arXiv:2609.25518v1cs.CL

마트료시카 어트리뷰션: 언어 모델의 출력을 표현과 가중치에 귀속시키는 학습

Matryoshka attribution: Learning to attribute language model outputs to representations and weights

언어 모델의 출력을 내부 연산에 귀속(attribution)시키는 것은 해석 가능성(interpretability) 분야의 미해결 문제이다. 인과적 개입(causal intervention), 그래디언트, 또는 학습 가능한 마스크를 사용하는 기존 방법들은 비용이 현실적으로 감당하기 어렵거나, 실제로 인과적으로 중요한 내부 연산을 식별하는 데 어려움을 겪는다. 우리는 어트리뷰션을 다운스트림 손실을 최소화하는 내부 구성 요소의 중첩된 부분집합을 식별하는 문제로 정식화할 것을 제안한다. 이 과제를 학습하기 위해, 간단하고 미분 가능한 시그모이드 top-$k$ 연산자로 마스크를 매개변수화하는 마스크 학습 방법인 Matryoshka Attribution(MAttr)을 소개한다. 학습 과정에서 $k$를 무작위로 바꾸어 모든 희소도(sparsity)에 대해 동시에 지도함으로써, 어트리뷰션 점수에 따라 구성 요소를 정렬한 순서를 학습한다. MAttr는 Mechanistic Interpretability Benchmark(Mueller et al., 2025)의 공식 리더보드에서 1위를 차지했으며, 우리의 방법은 다양한 회로 기저(circuit basis)에 걸쳐 희소하고 과제 간 전이 가능한 회로를 식별한다. 실용적인 응용으로서, MAttr를 강화학습으로 학습시켜 LLM 파인튜닝에서 다운스트림 행동의 원인이 되는 가중치 변화를 식별할 수 있음을 보인다. 거절(refusal) 판정 점수를 기반으로 MAttr를 학습시킨 결과, Llama 3.1 8B Instruct 가중치의 $1\%$를 베이스 모델 상태로 되돌리는 것만으로도 성능을 유지하면서 거절 응답을 제거할 수 있음을 확인했다. 우리는 MAttr를 해석 가능성을 경사하강법으로 다룰 수 있는 학습 가능한 목적 함수로 성공적으로 정식화한 사례로 보며, 이러한 방향의 후속 연구를 권장한다.

arXiv:2609.25356v1cs.CL

TelecomGPT-R1: 이종 통신 작업 전반의 추론을 위한 통합 사후 학습

TelecomGPT-R1: Unified Post-Training for Reasoning Across Heterogeneous Telecom Tasks

대규모 언어 모델(LLM)은 표준, 네트워크 구성, 수학적 모델, 소스 코드 및 운영 로그를 기반으로 추론하여 광범위한 통신 엔지니어링 작업을 자동화할 수 있는 큰 잠재력을 제공합니다. 그러나 기존 통신 LLM은 이러한 다양한 작업과 데이터 유형 전반에서 안정적으로 추론하는 데 어려움을 겪고 있습니다. 범용 LLM은 통신 특화 지식에 대한 신뢰할 수 있는 그라운딩(grounding)이 부족한 경우가 많으며, 통신 특화 모델은 일반적으로 더 좁은 작업군을 대상으로 개발되어 제한적인 다중 작업 성능을 보입니다. 이러한 격차를 해소하기 위해, 우리는 프로토콜, 지식, 모델링, 장애라는 상호 보완적인 네 가지 축을 중심으로 구조화된 오픈 소스 통합 통신 추론 모델 제품군인 TelecomGPT-R1을 소개합니다. 먼저, 가공되지 않은 공개 통신 산출물을 검증된 질문-답변 쌍과 고품질의 사고의 연쇄(Chain-of-Thought, CoT) 추론 궤적으로 정제하는 축 인식(axis-aware) 데이터 생성 프레임워크를 개발하여 104,880개의 예제를 포함하는 학습 말뭉치를 구축합니다. 이 말뭉치를 기반으로 지도 미세조정(SFT)을 통해 통신 지식과 증거 기반 추론 패턴을 주입함으로써 강화학습(RL)의 콜드 스타트 장벽을 극복합니다. 그런 다음 작업별로 라우팅되는 루브릭 보상을 갖춘 동적 샘플링 정책 최적화(DAPO)를 적용하여 이종 통신 추론 작업 전반에서 RL 업데이트가 유익하고 안정적으로 유지되도록 합니다. 이러한 보상은 축 특화 CoT 추적을 검증 가능한 추론 단위로 분해하고 그라운딩된 조밀한 과정 크레딧(dense process credit)과 결과의 정확성을 결합하여, RL이 검증 가능한 통신 증거로부터 일반화 가능한 문제 해결 행동을 학습할 수 있도록 합니다. 우리는 추가적인 커뮤니티 발전을 지원하기 위해 TelecomGPT-R1 모델과 재현 가능한 학습 레시피를 공개합니다. GSMA Open Telco Leaderboard의 7개 벤치마크 평가 결과, 오픈 소스 TelecomGPT-R1-27B는 89.64%의 평균 점수를 달성하여 GPT-5, Claude, Gemini를 포함한 주요 상용 모델을 능가하는 성능을 보였습니다.

arXiv:2609.25186v1cs.CY

패턴 인식기에서 개인화된 동반자로: 정신 건강 분야 대규모 언어 모델 서베이

From Pattern Recognizers to Personalized Companions: A Survey of Large Language Models in Mental Health

전 세계적으로 증가하는 정신 건강 질환 유병률은 제한된 자원, 높은 비용, 사회적 낙인, 개인정보 보호 우려와 같은 전통적 의료 체계의 오랜 장벽과 맞물려, 접근 가능하고 확장이 용이한 지원책에 대한 시급한 필요성을 낳았습니다. 대규모 언어 모델(LLM)은 고도화된 자연어 이해 및 생성을 통해 정신 건강 지원의 민주화를 이끌 강력한 잠재력을 지닌 혁신적 기술로 부상했습니다. 그러나 이 분야에서 급격히 확장되며 파편화된 연구들은 일관된 발전적 서사를 갖추지 못해, 현재의 진척 상황을 맥락화하고 향후 연구 방향을 파악하는 데 어려움을 초래하고 있습니다. 본 서베이 논문은 정신 건강 분야에서 LLM의 역할이 뚜렷하고 점진적으로 정교해지는 세 가지 단계를 거쳐 진화하고 있다는 중심 논제를 바탕으로 문헌을 체계화하고 분석하여 이러한 공백을 해소합니다. 저자들은 LLM이 평가를 위한 수동적인 정보 도구이자 패턴 인식기(Pattern Recognizer)로 주로 기능했던 1단계에서 시작하여, 일회성의 무상태(stateless) 상호작용을 수행하는 공감형 대화자(Empathetic Conversationalist) 역할을 하는 2단계를 거쳐, 상태를 유지하는(stateful) 인지 에이전트로 구현되어 장기적이고 개인화된 동반자(Longitudinal, Personalized Companion)를 지향하는 현재의 최전선인 3단계에 이르기까지 그 궤적을 추적합니다. 이러한 프레임워크를 뒷받침하기 위해 핵심 기술, 에이전트 아키텍처(프로필, 메모리, 추론, 계획), 그리고 데이터셋과 벤치마크라는 핵심 인프라를 체계적으로 검토하고, 이들의 진화가 이러한 발전 경로를 어떻게 뒷받침하는지 조명합니다. 본 연구는 이러한 발전적 관점을 통해 기존 연구를 종합적으로 정리하고, 궤적에 대한 통찰력 있는 서사를 제시하며, 정신 건강 관리를 위한 책임감 있고 효과적이며 인간 중심적인 AI의 미래 혁신을 위한 명확한 로드맵을 제공합니다. 본 서베이에서 검토된 큐레이션된 자료 모음은 프로젝트 저장소(https://github.com/Emo-gml/Awesome-Mental-Health-LLMs)에서 확인할 수 있습니다.

arXiv:2609.25130v1cs.CL

영향은 무효화가 아니다: diff가 아닌 주장(claim)에 대해 물어라

Impact Is Not Invalidation: Ask About the Claim, Not the Diff

코딩 에이전트(agent)의 메모리 시스템은 저장소가 변경될 때 저장된 주장(claim) 중 어떤 것이 거짓이 되었는지 판단해야 한다. 콘텐츠 앵커링(content anchoring)은 주장의 출처가 된 아티팩트가 변경될 때마다 해당 주장을 무효화하는데, 이는 끊임없이 발동한다. 의미적 동등성 분류(semantic-equivalence classification)는 diff가 동작을 보존하는지를 묻는데, 이는 저장된 어떤 주장에 대한 질문이 아니라 diff에 대한 질문이다. 우리는 두 번째 신호가 모델 성능과 무관한 이유로 실패함을 보인다. 커밋이 동작을 보존하는지 묻는 경우, 가격 차이가 40배에 달하는 다섯 개 모델은 실제 커밋의 59~72%에서 무효화를 발동하며, 기저 비율(base rate) 0.25 대비 0.291~0.329의 정밀도(precision)에 그친다. 반면 특정 주장 하나가 여전히 성립하는지를 물으면, 동일한 diff에서 동일한 모델들이 0.705~0.974의 정밀도에 도달한다. 동작 보존 판정기에 주장 텍스트를 제공하여 질문만 바꾸지 않은 통제 실험에서는 정밀도가 0.010과 0.016만큼 변했지만, 질문을 바꾸면 0.49와 0.65만큼 변한다. 또한 커버리지에서 도출한 의존성 데이터를 사용하는, 실제 배포된 회귀 테스트 선택기인 pytest-testmon과도 비교한다. 이 도구는 재현율(recall) 0.868, 정밀도 0.415를 달성하는데, 이는 변경이 도달할 수 있는 범위에 대해 거의 완전한 지식을 갖고 있어도 그 변경이 무엇을 거짓으로 만드는지는 식별하지 못함을 보여준다. 정답(ground truth)은 어노테이션이 아니라 실행이다. 주장은 커밋 t에서 통과하는 테스트 함수이며, 동일한 assertion 텍스트가 t+1에서 실패하면 뒤집힌(flipped) 것으로 간주한다. 이를 구축하기 위해서는 우리가 선행 연구에서 찾지 못한 관찰이 필요했다. CI로 게이트된 메인라인에서는 기존 테스트를 실패시키는 커밋이 병합될 수 없으므로, 단순한 구성 방식은 설계상 양성(positive) 클래스가 비어 있게 된다. 우리는 23개 Python 라이브러리에서 추출한 10,369개의 주장과 184개의 실행으로 검증된 뒤집힘(flip)을 보고하며, 저장소 단위로 분리한 홀드아웃 분할, 지식 컷오프 이후 분할, 셔플된 diff 귀무 실험(null), 패러프레이즈 통제 실험, 그리고 17개 저장소에 대한 leave-one-repository-out 분석을 함께 제시한다.

arXiv:2609.25066v1cs.CL

LLM 기반 인간 행동 시뮬레이션에서의 신뢰성 이해

Understanding Reliability in LLM-based Human Behavior Simulation

대규모 언어 모델(LLM)은 인간의 설문 응답과 행동 반응을 시뮬레이션하는 데 점점 더 많이 사용되지만, 신뢰할 수 없는 시뮬레이션은 사회과학적 결론을 오도할 수 있다. 그러나 기존 평가는 end-to-end 점수에 초점을 맞추어, 시뮬레이션 과정의 서로 다른 측면들이 상호작용하여 신뢰성을 어떻게 결정하는지는 불분명하게 남아 있다. 우리는 LLM 기반 인간 행동 시뮬레이션을 세 개의 구조화된 층으로 분해하고, 모델 용량, 프로필 완전성, 인구 커버리지의 세 가지 구성 차원에 걸쳐 개별 수준(R1)과 집단 수준(R2) 모두에서 신뢰성을 평가하는 ReliMap을 제안한다. 네 가지 시뮬레이션 과제와 11개 LLM에 걸친 실험을 통해, 프로필 조건화(profile conditioning) 없이는 모든 모델이 상당한 분포 바이어스를 보인다는 것을 발견한다. 프로필 조건화는 수확 체감과 함께 이 바이어스를 줄인다. 더 큰 모델이 더 많은 이득을 얻으며, 속성의 정보량은 양보다 더 중요하다. 중요하게도, R1의 이득은 R2로 신뢰하게 전이되지 않으며—개별 수준과 집단 수준의 신뢰성은 반대 방향으로 움직일 수 있다. 집단 층에서, 커버리지를 늘리면 분산은 줄이지만 체계적 바이어스는 줄이지 않으며, R2는 약 50–100명의 개인에서 안정화된다. 이러한 발견은 신뢰할 수 있는 시뮬레이션이 단일 층을 고립하여 최적화하는 것만으로는 달성할 수 없으며, 세 층 모두에 걸친 조율된 개선이 필요함을 강조한다.

arXiv:2609.25050v1cs.CL

FrontierMath Erd\H{o}s

FrontierMath Erd\H{o}s

2026년 8월 기준 미해결 상태인 68개의 에르되시(Erd\H{o}s) 문제로 구성된 벤치마크인 FrontierMath Erd\H{o}s(FME)를 소개합니다. FME의 과제를 해결하려면 AI 시스템이 증명 보조기(proof assistant) Lean에서 68개 추측 중 하나를 해결(증명 또는 반증)해야 합니다. 이 68개 문제는 수학적 흥미도와 난이도를 고려하여 erdosproblems.com에 등록된 652개의 미해결 문제 중 제2저자가 선정했습니다. 최근 AI가 수학 분야의 여러 미해결 문제를 해결하기도 했으나, 이러한 사례들은 AI 역량에 대한 체계적인 연구에는 미치지 못합니다. FME는 동일한 고정 문제에 대해 자율적이면서도 동일한 예산 조건 하에서 모든 AI 모델을 평가합니다. 우리는 문제당 \$300의 예산으로 5개의 AI를 평가했습니다. 그중 하나(GPT-6 Astra)가 3%를 기록했으며, 나머지 모델은 모두 0%를 기록했습니다.

arXiv:2609.25009v1cs.CL

같은 수량, 다른 답: 언어 모델의 수치 표현 불변성

Same Quantity, Different Answer: Numerical Representation Invariance in Language Models

수치적으로 동등한 문장제 문제는 수량이 소수, 분수, 백분율, 숫자 단어, 과학적 표기법, 또는 정확히 변환된 단위 중 어떤 형태로 쓰이든 동일한 정규(canonical) 답을 내야 합니다. 우리는 3,600개의 정확한 유리수 문제와, 정체성을 보존하는 다섯 가지 변환 계열에 걸친 8,600개의 프롬프트를 생성하고, 다섯 개의 오픈 가중치(open-weight) 시스템을 평가했습니다. LLM 판정자 없이 일반적인 답변 형식을 정규화하는 고정된 구문 감사(syntax audit)를 거친 후, 정규 정확도(canonical accuracy)는 0.969~0.996이지만, 오빗 정확도(orbit correctness)는 0.848~0.981로, 오빗 불변성(orbit invariance)은 0.851~0.981로 떨어집니다. 불변이지만 틀린 오빗은 최대 0.003을 차지합니다. 엄격한 파서(strict parser)에서 나타나는 광범위한 성능 붕괴의 대부분은 곱셈 형태의 과학적 표기법이 구현된 숫자 문법 범위를 벗어나기 때문에 발생하며, 이는 평가기 인터페이스가 추론 실패로 오인될 수 있음을 보여줍니다. 별개의 의미론적 병리 현상도 남아 있습니다. Mistral Small 4는 단위 변환된 입력에서 0.699를 기록했으며, 정답 레이블과 정확히 10의 거듭제곱만큼 차이 나는 오류를 265건 생성했습니다. 비교 대상 조건에 동일한 호출 횟수를 할당한 별도의 9,000회 호출 실험에서, 표현 합의(representation consensus)는 오류가 낮은 부분집합에서 패러프레이즈 합의(paraphrase consensus)보다 나은 성능을 보이지 않았으며, 훨씬 더 많은 오경보(false alarm)를 발생시켰습니다. 함께 제공되는 보조 아카이브에는 고정된(frozen) 벤치마크, 평가 및 감사 기록, 합의 방식의 원시 응답, 매니페스트, 분석 코드, 그리고 한 번의 명령으로 논문을 빌드하는 스크립트가 포함되어 있습니다.

arXiv:2609.14570v2cs.CL

다국어 저자원 감정 탐지를 위한 멀티 에이전트 LLM에서 토폴로지와 다양성의 분리 분석

Disentangling Topology and Diversity in Multi-Agent LLMs for Multilingual Low-Resource Emotion Detection

멀티 에이전트 LLM 시스템은 여러 번의 추론 호출을 결합하지만, 기존 연구는 호출들이 서로 연결되는 방식과 호출들을 다양화하는 방식을 종종 혼동한다. 본 연구는 이 두 요인, 즉 추론 토폴로지(inference topology)와 에이전트 간 다양성의 원천을 독립적으로 연구한다. 통제된 $2 \times 3$ 행렬에서 병렬 집계(parallel aggregation)와 순차적 정제(sequential refinement)를 확률적 샘플링(stochastic sampling), 역할 프롬프팅(role prompting), 학습된 QLoRA 전문화(specialization)와 교차 조합하며, 각 백본 내에서 세 번의 호출 예산과 출력 프로토콜을 고정한다. Qwen2.5-14B-Instruct와 Llama-3.1-8B-Instruct를 사용하여 9개 언어에 걸친 다국어 저자원 감정 탐지에서 여섯 가지 구성을 모두 평가한다. 병렬 학습 전문화는 Qwen에서 52.83 Macro-F1로 가장 강력하며 Llama에서는 52.94에 도달한다. Qwen에서는 동일 백본의 제로샷, 퓨샷, CoT, 그리고 일곱 번 호출하는 자기 일관성(self-consistency) 베이스라인도 능가한다. 선호되는 토폴로지는 다양성의 원천에 따라 달라진다. 순차적 정제는 확률적 설정과 프롬프트 기반 설정에서 도움이 되는 반면, 학습된 설정에서의 Width(병렬) 이점은 Qwen의 2.83포인트에서 Llama의 0.17포인트로 줄어든다. 깊이(depth)별 분석은 이후 단계의 학습된 전문가가 올바른 초기 예측을 덮어쓸 수 있음을 시사하지만, 전체적인 효과는 백본에 따라 달라진다. 종합하면, 에이전트를 어떻게 차별화하는가가 토폴로지보다 더 큰 성능 변화를 만들어내며, 토폴로지는 전문화와 함께 공동으로 평가되어야 한다.

arXiv:2608.27855v2cs.CL

AI 작성자는 일관된 문체 측정학적 흔적을 남기지만, AI 편집자는 그렇지 않다

AI Writers Have a Consistent Stylometric Footprint, but AI Editors Do Not

대규모 언어 모델(LLM)이 생성한 텍스트는 사람이 작성한 텍스트와 문체 측정학(stylometry)적으로 구별된다는 점이 밝혀져 왔다(Andre et al., 2023; Shah et al., 2023; Opara, 2024; Soto et al., 2024; Li and Zhang, 2025; Selvioglu et al., 2025). 그러나 LLM은 텍스트를 생성할 뿐만 아니라 사람이 작성한 글을 편집하는 데에도 점점 더 많이 활용되고 있으며, 두 행위가 동일한 흔적을 남기는지는 불분명하다. 본 연구에서는 AI 생성이 일관된 "문체 측정학적 흔적(stylometric footprint)"을 남긴다는 것을 보인다. 즉, 주로 엔트로피(entropy)와 어휘 다양성(lexical diversity)으로 구성된 소수의 특징 부분집합이 8개의 LLM과 5개 도메인 전반에서 AI 생성 텍스트를 사람이 작성한 글과 일관되게 구분하는 반면, 나머지 특징들은 도메인과 생성 모델에 크게 의존한다. 그러나 AI 편집은 이러한 동일한 흔적을 재현하지 않는다. 사람이 작성한 원본과 비교했을 때, AI가 편집한 텍스트는 AI 생성의 특징인 동반 증가 대신 어휘 다양성의 미미한 증가와 엔트로피 감소만을 보인다. 생성에는 거의 기여하지 않던 어휘 밀도(lexical density)가 편집과 관련된 지배적인 신호로 작용하게 된다. 따라서 문체 측정학적 특징은 AI 편집 텍스트를 AI 생성 텍스트와 구분하지만, 사람이 작성한 텍스트와 구분하는 데는 훨씬 덜 효과적이다. 본 연구 결과는 "AI 텍스트"가 단일한 현상이 아니며, 생성과 편집은 질적으로 서로 다른 문체 측정학적 흔적을 남기므로 별도로 연구되어야 함을 시사한다.

arXiv:2608.26480v2cs.MA

GVS5H: LLM 코딩 성능 향상을 위한 원장 기반 제어의 제로샷 자기 오케스트레이션

GVS5H: Zero-Shot Self-Orchestration with Ledger-Based Control for Improved LLM Coding Performance

최첨단 코딩 성능은 일반적으로 크고 비용이 많이 드는 독점 모델을 통해 달성된다. 본 연구에서는 단일 모델의 새로운 인스턴스들이 문제를 분해하고 공유 파일 시스템을 통해 조율하는 무학습(training-free) 방식인 원장 기반 제로샷 자기 오케스트레이션(GVS5H)을 소개한다. 최신 고난도 LiveCodeBench 100개 문제에 대해 11개의 오픈 및 클로즈드 가중치(weight) 모델을 대상으로 실험한 결과, 이 방식은 최대 25.6점의 향상을 보이며 여러 저렴한 모델을 최첨단 수준의 성능으로 끌어올린다. 오케스트레이션이 적용된 Qwen3.8 Flash Next는 Fable 5의 90.4% 대비 9%에 불과한 비용으로 93.0%를 기록하며, 더 작은 Qwen3.8-27B는 92.4%에 도달한다. 성능 향상이 모든 모델에 보편적인 것은 아니며, 일부 모델은 성능 변화가 없거나 악화되기도 한다. 트랜스크립트 분석 결과 이러한 향상은 문제 분해와 지속적 컨텍스트에 기인하는 것으로 나타났다. 추론(inference) 시점의 조직화를 통해 자체 호스팅 가능한 가중치로도 훨씬 적은 비용으로 최첨단 코딩 정확도에 도달하거나 이를 뛰어넘을 수 있다.

arXiv:2608.19621v3cs.CL

종단적 생애 궤적을 활용한 LLM 에이전트의 정체성 본질주의 완화

Mitigating Identity Essentialism in LLM Agents with Longitudinal Life Trajectories

대규모 언어 모델(LLM)은 사회적 시뮬레이션을 위한 확장 가능한 접근법을 제공하지만, 그 신뢰성은 에이전트(agent)를 어떻게 구축하느냐에 달려 있습니다. 기존 방법론은 인구 수준의 패턴을 부분적으로 재현할 수 있지만, 인간다운 다양성을 포착하지 못하는 경우가 많습니다. 본 연구의 분석에 따르면, 정적 프로필 기반 에이전트는 인간보다 더 강한 인구통계학적 분리와 집단 내 압축을 나타내며, 이는 정체성 본질주의(identity essentialism)와 일치하는 패턴입니다. 즉, 인구통계학적 레이블로 인해 모델이 집단 평균 성향을 개인의 고유한 특성으로 취급하게 되어 집단 내 응답을 동질화할 수 있습니다. 우리는 이러한 한계가 두 가지 관련 요인, 즉 희소하고 정적인 에이전트 표현 방식과 경험을 지속적으로 통합하는 프롬프트(prompt) 전용 메모리의 제한된 능력에서 기인한다고 주장합니다. 상보적 메모리 시스템에서 영감을 받아, 우리는 구조화된 생애 사건 검색과 경험 통합을 위한 에이전트별 매개변수 메모리를 결합한 종단적 메모리 프레임워크인 LifeMem을 제안합니다. 세 가지 LLM을 대상으로 Understanding Society 데이터셋에서 수행한 실험 결과, LifeMem은 응답 분포, 전체 및 집단 내 다양성, 생애 단계에 걸친 개인 내 응답 변화 패턴 측면에서 인간 데이터와의 정렬(alignment)을 향상시키는 것으로 나타났습니다. 이러한 결과는 더욱 신뢰할 수 있고 동적으로 진화하는 사회적 에이전트를 구축하는 데 있어 종단적 생애 사건 메모리가 갖는 가치를 강조합니다.

arXiv:2607.15957v4cs.CL

그럴듯함에서 실행 가능성으로: LLM 자기 설명에 대한 견해

From Plausible to Actionable: A Position on LLM Self-Explanations

대규모 언어 모델(LLM)은 자신의 결정을 합리화하는 자연어 설명을 생성할 수 있으며, 이러한 현상은 흔히 자기 설명(self-explanation)이라 불린다. 이러한 설명은 설명 가능한 인공지능(XAI), 특히 LLM 행동을 해석하는 데 있어 유망한 방향으로 부상했다. 그러나 자기 설명은 종종 그럴듯해 보이지만, 모델의 기저 추론 과정을 충실하게 반영하는지는 여전히 미해결 문제로 남아 있다. 본 의견 논문에서 우리는 자기 설명이 매우 그럴듯할 수 있고, 충실성은 의문의 여지가 있을 수 있으며, 그럼에도 매우 실행 가능(actionable)할 수 있다고 주장한다. 전통적인 XAI 관점에서 LLM이 생성한 자기 설명에 대한 표준 평가 프로토콜의 한계를 밝히고, 그럴듯함과 충실성을 평가하기 위한 실용적 가이드라인을 제안한다. 나아가 평가는 이러한 기준을 넘어 실행 가능성(actionability)으로 확장되어야 한다고 주장하며, 다양한 이해관계자 전반에서 정보에 기반한 의사결정과 적절한 조치를 지원하는 LLM 합리화 역량의 응용을 강조한다.

arXiv:2607.14109v2cs.CL

ReasonLab: A Controlled and Auditable Evaluation of Prompting Techniques for Multiple-Choice QA

대규모 언어 모델(LLM)의 능력을 탐색하고 다지선다형 질의응답(MCQA)에 대한 견고한 해법을 구축하는 일은 자연어 이해에서 여전히 핵심 과제이다. 또한 LLM의 급속한 확산은 더 정교한 프롬프팅 기법이 더 나은 성능을 낸다는 암묵적 가정을 만들어 왔다. 여러 연구가 그러한 이득을 주장하지만 서로 다른 모델, 프롬프트 문구, 답 추출 규칙 아래에서 보고하므로, 이득을 기법만으로 귀속할 수 없다. 우리는 ReasonLab으로 이 공백을 메운다. ReasonLab은 프롬프팅 기법을 모델·데이터셋과 함께 일급 실험 변수로 두고 모든 생성 결과를 검사용으로 보존하는 평가 프레임워크이다. ReasonLab으로 temperature 0에서 10개 MCQA 데이터셋, 27개 모델 구성, 480,927회 평가에 걸쳐 8가지 프롬프팅 기법에 대한 통제 연구를 수행했다. 프롬프팅 기법은 정확도의 사소한 결정 요인임을 발견했다. 추론 예산이 없는 구성에서는 추론 트리거가 직접 프롬프팅 대비 3.92~4.69%p만 개선하며 서로 구별되지 않고, 추론이 켜진 구성에서는 어떤 기법도 0.51%p 이상 차이 나지 않는다. Self-Generate만 일관된 효과를 보이며 2.95%p 감소이다. 세 가지 현상을 추가로 조사한다. (1) 공통 데이터셋 집합에서의 모델 비교—모델 크기는 정확도를 예측하지 않는다. (2) 사고(thinking) 예산 간 트레이드오프—추론 활성화는 최대 12.74%p 가치가 있으나 예산을 8배 늘려도 0.48~2.10%p만 추가된다. (3) 데이터셋 난이도 변동—벤치마크의 60%가 70% 미만 정확도이며 최easy~최hard 간 43.9%p 격차가 있다. 이 결과는 MCQA에서 프롬프팅 기법은 모델 추론 활성화에 비해 사소한 레버이며 상당한 여지가 남아 있음을 시사한다.

arXiv:2606.18473v2cs.CL

PreUnlearn: 대규모 언어 모델 언러닝 이전 부수적 지식 손상 감사

PreUnlearn: Auditing Collateral Knowledge Damage Before Large Language Model Unlearning

대규모 언어 모델(LLM)의 머신 언러닝(machine unlearning)은 지정된 지식을 제거하면서 모델의 나머지 역량은 유지하는 것을 목표로 한다. 그러나 잊어야 할 지식과 유지해야 할 지식 사이의 경계는 종종 불명확한데, 관련 정보는 물론 멀리 떨어진 정보까지 모델 안에서 얽혀 있을 수 있기 때문이다. 본 논문에서는 데이터 중심 관점에서 LLM 언러닝을 연구하고, 언러닝 효과가 forget set에서 동일 도메인 및 원거리 도메인 지식으로 어떻게 전파되는지를 언러닝 이후가 아니라 이전에 측정한다. 우리는 일관된 감쇠 패턴을 발견한다: 부수적 손상은 forget set 근처에서 가장 강하고 의미적 거리에 따라 약해지지만, 도메인 경계에서 사라지지는 않는다. 또한 언러닝이 실행되기 전에 이러한 손상을 감사할 수 있는지를 묻는다. forget set 감사를 언러닝 전 예측 과제로 formulation하고, 어떤 데이터 특징이 하류 손상을 가장 잘 예측하는지 분석한다. 결과는 forget set와 평가 집합 사이의 상호작용 특징이 가장 강한 신호를 제공함을 보여주며, 부수적 손상이 모델 갱신이 일어나기 전 데이터 기하(data geometry)에 부분적으로 반영됨을 시사한다. 이러한 발견은 forget set 감사를 위험한 언러닝 실행을 식별하고 더 신뢰할 수 있는 언러닝 절차를 설计하기 위한 조기 경보 도구로 자리매김한다. 코드와 데이터는 https://github.com/BartSu/PreUnlearn 에서 이용할 수 있다.

arXiv:2605.29612v2cs.MA

CONCAT: 효율적인 LLM 기반 다중 에이전트 시스템을 위한 합의 및 신뢰도 기반 애드혹 팀 구성

CONCAT: Consensus- and Confidence-Driven Ad Hoc Teaming for Efficient LLM-Based Multi-Agent Systems

대규모 언어 모델(LLM) 기반의 다중 에이전트 시스템(MAS)은 복잡한 작업을 해결하고 단일 에이전트 시스템보다 더 높은 성능을 달성하는 역량을 보여주지만, 에이전트 간의 과도한 통신으로 인해 막대한 연산 오버헤드를 초래한다. 기존 연구들은 희소 다중 에이전트 그래프를 학습(training)시키거나 워크플로를 더 잘 조율하기 위해 플래너를 파인튜닝(fine-tuning)하려는 시도를 진행해 왔다. 그러나 이러한 추가적인 학습 과정은 연산 비용을 유발하고 MAS를 특정 도메인으로 제한하여 일반화 가능성을 저해한다. 본 논문에서는 에이전트 간의 상호작용을 효율적으로 조직하기 위해 합의(consensus) 및 신뢰도 기반 애드혹 팀 구성(ad hoc teaming)에 기반한 별도의 학습이 필요 없는(training-free) 다중 에이전트 협업 프레임워크인 CONCAT을 제안한다. 구체적으로, 에이전트들은 초기 답변을 기반으로 클러스터링되며, 각 클러스터의 리더는 에이전트의 신뢰도를 바탕으로 선정된다. 그런 다음, 마음 이론(Theory of Mind)에 기반한 휴리스틱 함수를 설계하여 답변과 신뢰도에 따라 매 두 리더 간의 협업 이득을 예측한다. 마지막으로, 예측된 이득에 따라 일정 비율의 통신을 제거한 후 애드혹 다중 에이전트 네트워크를 구성한다. 3개의 LLM과 3개의 벤치마크에 걸친 실험 결과, CONCAT은 LLM-Debate 대비 최대 2.02배 높은 효율성(정확도/지연 시간 비율)을 달성하고 AgentDropout과 같은 학습 기반 방식을 능가하는 동시에, 어떠한 작업별 학습 없이도 Qwen2.5-14B-Instruct에서 평균 지연 시간을 50.1% 단축함을 입증한다.

arXiv:2604.13706v2cs.CL

Co-FactChecker: 대규모 추론 모델을 활용한 인간-AI 협업 주장 검증 프레임워크

Co-FactChecker: A Framework for Human-AI Collaborative Claim Verification Using Large Reasoning Models

전문 팩트체커는 주장을 검증하기 위해 도메인 지식과 깊은 문맥 이해에 의존한다. 대규모 언어 모델(LLM)과 대규모 추론 모델(LRM)은 그러한 그라운딩(grounding)이 부족하며 주로 이용 가능한 증거만으로 추론하기 때문에, 전문가 주도 검증과 완전 자동화된 주장 검증 사이에 불일치가 발생한다. 이러한 격차를 완화하기 위해, 실세계 지식과 도메인 전문성에 기반한 전문가 피드백이 모델의 추론을 안내하는 인간-AI 협업을 더 유망한 전진 경로로 제시한다. 그러나 기존 LRM은 특히 다중 턴 상호작용 설정에서 자연어 피드백에 맞게 조정하기 어렵다. 인간-AI 협업 주장 검증을 위한 프레임워크인 Co-FactChecker를 제안한다. 모델의 사고 추적(thinking trace)을 공유 스크래치패드(shared scratchpad)로 취급하는 새로운 상호작용 패러다임을 도입한다. Co-FactChecker는 전문가 피드백을 trace-edit으로 변환하여 추적에 대상화된 수정을 도입함으로써 대화 기반 상호작용의 단점을 우회한다. trace-editing이 다중 턴 대화보다 장점을 제공함을 보이는 이론적 결과를 제공하며, 자동 평가를 통해 Co-FactChecker가 기존 자율형 및 인간-AI 협업 접근법을 능가함을 보여준다. 인간 평가는 또한 Co-FactChecker가 다중 턴 대화보다 선호되며, 상대적으로 해석하기 쉽고 더 유용한 사고 추적과 함께 더 높은 품질의 추론과 판정을 생성함을 보여준다.

arXiv:2603.29608v2cs.CL

독성학 의사결정 지원을 위한 진단 추론 학습

Learning Diagnostic Reasoning for Decision Support in Toxicology

급성 다중 물질 중독은 불완전한 섭취 정보와 비특이적 증상에 의존해야 하는 임상의가 상당한 불확실성 속에서 생명을 구하기 위한 신속한 결정을 내려야 하는 상황이다. 이러한 혼란스러운 환경에서 효과적인 진단 추론을 수행하려면 구급대원의 현장 묘사, 신뢰하기 어려운 환자 자가 보고나 기존 병력과 같은 비정형·비의료적 서술을 활력징후 등의 정형 의료 데이터와 융합해야 한다. 대규모 언어 모델(LLM)은 이러한 이질적인 입력을 처리할 잠재력을 보이지만, 이 환경에서는 어려움을 겪으며 환자 병력에만 의존하는 단순한 베이스라인보다 성능이 낮은 경우도 많다. 이를 해결하기 위해 우리는 응급 독성학에 강화학습(RL)을 처음으로 적용한 DeToxR(Decision-support for Toxicology with Reasoning)을 제안한다. 우리는 그룹 상대 정책 최적화(GRPO)로 파인튜닝한 LLM을 기반으로, 14개 물질 클래스에 대한 다중 레이블 예측을 수행하는 견고한 데이터 융합 엔진을 설계한다. 임상 성능 보상을 이용해 모델의 추론을 직접 최적화한다. 다중 레이블 일치도 지표를 보상 신호로 정의함으로써, 모델은 함께 섭취된 물질을 놓치거나 존재하지 않는 독성 물질을 환각으로 생성하면 명시적으로 불이익을 받는다. 우리 모델은 적응을 거치지 않은 기반 LLM과 지도학습 베이스라인을 크게 능가한다. 더 나아가 예비 임상 검증 연구에서, 올바른 독성 물질을 식별하는 데 있어 더 높은 micro-F1(0.644 대 0.473)과 재현율을 달성하여 임상적 이점을 보인다. 이러한 결과는 RL로 정렬된 LLM이 비정형 병원 전 서술과 정형 의료 데이터를 종합하여 고위험 환경에서 의사결정을 지원할 수 있는 가능성을 보여준다.