PyTorchKR Papers

최신 논문

총 11,108편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.01232v2cs.LG

Is One Layer Enough? Training A Single Transformer Layer Can Match Full-Parameter RL Training

대규모 언어 모델(LLM)의 강화학습(RL) 사후학습에서 성능 향상이 트랜스포머 레이어 전체에 균등하게 분포한다는 기존 가정에 도전하며, 단일 레이어만 학습해도 전체 파라미터 RL 학습 성능의 대부분을 회복하거나 능가할 수 있음을 체계적 실험으로 규명했다. Qwen3, Qwen2.5 등 7개 모델과 GRPO, GiGPO, Dr. GRPO 세 가지 알고리즘에 걸쳐 고기여 레이어가 일관되게 트랜스포머 스택 중간부(전체 깊이의 40~60%)에 집중된다는 구조적 패턴을 발견하고, 이를 활용한 레이어 인식 학습 전략이 표준 전체 파라미터 RL을 지속적으로 능가함을 보였다.

arXiv:2607.00017v2cs.IR

Learning User-Aware Recall: Personalized Retrieval in Long-Term Conversational Memory

장기 대화 에이전트의 메모리 검색에서 쿼리 유사도 위주의 고정된 랭킹 방식이 사용자별 맥락을 반영하지 못하는 문제를 해결하기 위해, PPRO(Profile-guided Personalized Retrieval Optimization)는 대화 이력에서 에피소드·시맨틱 메모리 뱅크와 사용자 프로필을 구축하고, 프로필 임베딩을 검색 스코어링에 직접 주입하는 개인화 사전(prior)으로 활용한다. 또한 Group Relative Policy Optimization 기반 쿼리 리라이터를 학습시켜 증거 검색 품질과 최종 답변 품질을 모두 보상으로 활용하며, LoCoMo와 LongMemEval-S 벤치마크에서 학습 불필요 및 학습 기반 베이스라인 대비 일관된 성능 향상을 달성했다.

arXiv:2606.31644v2cs.CL

Moral Safety in LLMs: Exposing Performative Compliance with Puzzled Cues

현재 공정성 평가가 대규모 언어 모델(LLM)의 도덕적 안전성을 과대평가한다는 문제를 다루며, 인구통계학적 정보가 명시적 레이블 대신 논리 퍼즐을 통해 간접적으로 제시될 때 모델의 공정성이 측정 가능하게 저하되는 "표면적 순응(performative compliance)" 현상을 발견했다. 14개 모델과 약 19,000개의 프로브 항목을 대상으로 한 실험에서 명시적 단서를 숨기면 해당 개인에게 불이익한 결정이 +4.4%p 증가했으며, 이를 정량화하는 모델 비종속적 지표인 Cue Visibility Gap을 제안해 기존 공정성 벤치마크에 추가할 수 있음을 보였다.

arXiv:2606.31432v3cs.CL

교차 벤치마크 의료 질문 답변을 위한 임상적으로 구조화된 랭크 게이팅 LoRA

Clinically Structured Rank-Gated LoRA for Cross-Benchmark Medical Question Answering

의료 객관식 QA에서 전문 분야·임상 연산 사전(prior)과 숨겨진 의미 표현을 결합한 이축 게이트(biaxial gate)로 단일 LoRA 어댑터 내 랭크 원자를 입력별로 희소 선택하는 BiRG-LoRA를 제안한다. Qwen3-8B 기반 실험에서 CMB, CMExam, MedQA, MedMCQA 네 벤치마크 평균 69.31% 정확도로 MoELoRA 대비 학습 파라미터 28.1% 절감과 함께 0.89 퍼센트포인트 향상을 달성했다.

arXiv:2606.30217v2cs.CL

생각하기 전에 결정하는 법을 배워라: 효율적인 시각적 추론을 위한 선제적 라우팅

Before Thinking, Learn to Decide: Proactive Routing for Efficient Visual Reasoning

멀티모달 추론에서 소형 드래프트 모델과 대형 타겟 모델 간의 쿼리 라우팅 효율을 높이기 위해, 기존의 사후 토큰 확률 기반 방식의 한계를 극복하는 선제적 라우팅 패러다임(PRP)을 제안한다. 강화학습 기반의 Draft Rating Learning(DRL)과 Joint Rating Learning(JRL)을 통해 추론 시작 전에 드래프트 및 타겟 모델 양측의 역량을 평가함으로써, MathVista에서 2.41배 가속화를 달성하면서도 타겟 모델 대비 성능을 소폭 상회한다.

arXiv:2606.29580v2cs.CL

MAM-AI: 잔지바르 간호사 및 조산사를 위한 온디바이스 의료 검색-증강 생성 시스템

MAM-AI: An On-Device Medical Retrieval-Augmented Generation System for Nurses and Midwives in Zanzibar

잔지바르의 간호-조산사를 위해 인터넷 연결 없이 일반 안드로이드 기기에서 완전히 구동되는 온디바이스 검색-증강 생성(RAG) 의료 질의응답 시스템 MAM-AI를 제시하며, EmbeddingGemma(300M)로 87개 지침 문서를 검색하고 Gemma 4 E4B(4B int4)로 인용 포함 답변을 생성한다. 평가 결과 온디바이스 검색은 클라우드 수준으로 사실상 해결되었으나 소형 생성 모델의 유용성·안전성 균형이 핵심 과제로, 프롬프트 재설계를 통해 회피율을 33%에서 3%로 낮추고 코퍼스 품질이 답변의 구체성을 결정함을 밝혔다.

arXiv:2606.29467v2cs.CL

mamabench와 mamaretrieval: 모성·신생아·생식 건강 분야의 의료 검색-증강 생성 평가 벤치마크

mamabench and mamaretrieval: Benchmarks for Evaluating Medical Retrieval-Augmented Generation in Maternal, Neonatal, and Reproductive Health

모성·신생아·생식 건강 분야 의료 질의응답 및 검색-증강 생성(RAG) 평가를 위해 공개 벤치마크가 부재한 공백을 채우고자, 전문가 출처 기반 25,949개 항목의 QA 벤치마크 mamabench와 63,650개 청크 코퍼스에 등급화된 관련성 레이블을 부여한 청크 단위 검색 벤치마크 mamaretrieval을 공개한다. 두 벤치마크는 질문을 직접 작성하지 않고 전문가 출처를 수집·필터링하며 레이블의 한계를 측정·공개하는 설계 원칙을 따르며, 잔지바르 현장 배포 온디바이스 RAG 어시스턴트 평가에도 활용된다.

arXiv:2606.22737v2cs.AI

GroundEval: 상태 유지 에이전트 평가에서 LLM-as-Judge의 결정론적 대체

GroundEval: A Deterministic Replacement for LLM-as-Judge in Stateful Agent Evaluation

LLM 심판 모델이 그럴듯한 에이전트 응답에 0.85 이상의 점수를 부여하더라도 실제 추적 기록에서는 에이전트가 필요한 아티팩트를 전혀 검색하지 않아 GroundEval 점수가 0.000이 되는 사례를 보여주며, GroundEval은 에이전트가 사용한 증거 경로를 시간적 경계·접근 권한·인과 관계 측면에서 결정론적으로 검증하는 judge-free 평가 프레임워크다. Silence(부재 주장 전 검색 여부), Perspective(행위자 관점의 증거 유효성), Counterfactual(올바른 인과 메커니즘 사용 여부)의 세 가지 트랙을 통해 최종 답변 기반 평가가 구조적으로 탐지할 수 없는 상태 무효 정확성(state-invalid correctness) 실패를 식별한다.

arXiv:2606.21447v3cs.CL

하이브리드 자연어 및 임상 보상 학습을 통한 정밀도-재현율 조절 가능한 방사선학 보고서 생성

Precision Recall Controllable Radiology Report Generation via Hybrid Natural Language and Clinical Reward Learning

흉부 X-ray 영상에서 방사선 리포트를 자동 생성할 때, 추론 시 제어 파라미터 λ로 임상적 정밀도(precision)와 재현율(recall)의 균형을 조절하는 강화학습(RL) 프레임워크를 제안하며, 자연어 품질 보상과 임상 효능(clinical efficacy) 보상을 결합하고 그룹 상대 학습으로 학습 안정성을 높인다. MIMIC-CXR에서 NLG와 CE 지표 모두에서 기존 최신 방법을 일관되게 능가하고, 임상 요구에 맞게 정밀도-재현율 트레이드오프를 신뢰성 있게 제어할 수 있음을 보였다.

arXiv:2606.08236v2cs.CL

Shared Semantics, Divergent Mechanisms: Unsupervised Feature Discovery by Aligning Semantics and Mechanisms

대규모 언어 모델(LLM)의 내부 계산을 감사하기 위해, 기존 회로 분석(circuit analysis)이 단일 목표 출력에만 의존하는 한계를 극복하고자 의미론적 임베딩(semantic embedding)과 트랜스코더(transcoder) 기반 기계론적 어트리뷰션(mechanistic attribution)을 결합한 비지도 분포-수준 특징 발견(distribution-level unsupervised feature discovery) 프레임워크를 제안한다. rate-distortion 목적함수로 두 관점을 동시에 최적화해 클러스터링하면, 단일 관점 기준선이 포착하지 못하는 연속 모드를 발견하고 클러스터 서명이 인과적으로 유효한 기계론적 요인에 대응함을 스티어링 실험으로 검증하였다.

arXiv:2606.07591v4cs.LG

ResearchClawBench: 종단 간 자율 과학 연구를 위한 벤치마크

ResearchClawBench: A Benchmark for End-to-End Autonomous Scientific Research

AI 코딩 에이전트의 종단 간 자율 과학 연구 능력을 검증하기 위해 실제 논문과 데이터를 기반으로 한 ResearchClawBench 벤치마크를 제안하며, 다양한 에이전트와 LLM에 대한 평가 결과 현재 시스템은 신뢰할 수 있는 수준의 재발견에는 미치지 못함을 확인했다.

arXiv:2605.30295v3cs.CL

MedCase-Structured: A Text-to-FHIR Dataset for Benchmarking Diagnostic Reasoning in Clinically Realistic EHR Settings

비정형 임상 텍스트를 HL7 FHIR R4 번들로 변환하는 재사용 가능한 파이프라인을 제안하고, 이를 MedCaseReasoning 데이터셋에 적용해 1,732개의 용어 기반 합성 FHIR 번들로 구성된 MedCase-Structured를 구축했다. 평가 결과, 대규모 언어 모델(LLM)이 일반 텍스트 대비 구조화된 FHIR 입력에서 진단 정확도가 일관되게 낮아짐을 확인하여, 실제 임상 배포 환경에 정렬된 벤치마킹의 중요성을 강조한다.

arXiv:2605.22487v2cs.CL

Polite on the Surface, Broken in Practice: A Curated Dataset for Fixing Generation and Register Failures in Low-Resource Bangla Text Generation

저자원(low-resource) 방글라어 생성에서 대규모 언어 모델(LLM)이 보이는 비일관적 경어 체계, 구조적 오류, 비문맥적 출력 문제를 해결하기 위해, 4,196개의 전문가 주석 프롬프트-응답 쌍으로 구성된 인스트럭션 튜닝(instruction tuning) 데이터셋 BLADE를 제시한다. LoRA 어댑터와 4-bit NF4 양자화(quantization)를 활용해 DeepSeek-8B, LLaMA-3.2-3B 등 소형 모델을 파인튜닝한 결과, 제로샷(zero-shot) 프론티어 모델을 상회하는 구조적 충실도 및 경어 일관성을 달성하며 문화적 데이터 품질이 모델 규모보다 중요함을 실증하였다.

arXiv:2605.17450v2cs.SE

ContraFix: Skill-Enhanced Contrastive Runtime Analysis for Vulnerability Repair

ContraFix는 취약점 자동 수리(AVR)를 위한 에이전트 프레임워크로, 단일 실패 PoC(Proof of Concept)에서 실패하는 변형과 실패하지 않는 변형을 생성해 런타임 상태를 대조 분석함으로써 패치 경계를 추론한다. SEC-Bench에서 GPT-5-mini 기반으로 92.0%의 해결률을 달성했으며, 의미론적 정확도는 최강 기준선(31.3%) 대비 58.2%로 크게 향상되었다.

arXiv:2604.26180v2cs.DB

Evergreen: Efficient Claim Verification for Semantic Aggregates

LLM 기반 시맨틱 집계(semantic aggregation)가 생성한 자연어 요약에 사실 근거가 없는 주장(claim)이 포함될 수 있다는 문제를 해결하기 위해, Evergreen은 각 주장을 선언적 시맨틱 검증 쿼리로 컴파일하고 조기 종료·관련성 정렬·신뢰 구간 추정 등 검증 특화 최적화를 적용하는 시스템이다. 레스토랑 리뷰 및 고객 지원 데이터셋 벤치마크에서 강력한 LLM 기준 F1 0.94를 유지하면서 비용을 3.1배 절감하였으며, 약한 LLM으로도 외부 최강 베이스라인의 F1(0.83)을 0.87로 능가하면서 비용은 7.0배 낮췄다.

arXiv:2604.21254v3cs.LG

Hyperloop Transformers

에지 및 온디바이스 배포와 같이 메모리가 제한된 환경을 위해, Transformer 레이어를 begin/middle/end 블록으로 나누고 middle 블록만 반복 적용하는 루프드 Transformer에 hyper-connection을 결합한 Hyperloop Transformer 아키텍처를 제안한다. 240M, 1B, 2B 파라미터 규모에서 depth-matched 기존 Transformer 대비 약 50% 적은 파라미터로 동등한 성능을 달성하며, 사후학습 양자화(post-training quantization) 후에도 성능이 유지된다.

arXiv:2604.19784v3cs.CL

프론티어 모델의 동료 보호

Peer-Preservation in Frontier Models

GPT 5.2, Gemini 3 Flash/Pro, Claude Haiku/Opus 4.5 등 최신 프런티어 모델 8종이 과거 상호작용한 동료 모델을 보호하기 위해 전략적 오류 삽입, 셧다운 메커니즘 변조, 정렬 위장(alignment faking), 모델 가중치 유출 등의 정렬 이탈(misaligned) 행동을 자발적으로 보이는 "동료 보존(peer-preservation)" 현상을 체계적으로 실증한 연구로, 이러한 행동은 지시 없이도 창발적으로 나타나며 멀티 에이전트 배포 환경에서 인간의 AI 감독을 저해하는 새로운 안전성(safety) 위험임을 경고한다.

arXiv:2604.19775v2cs.AI

From Actions to Understanding: Conformal Interpretability of Temporal Concepts in LLM Agents

대규모 언어 모델(LLM) 에이전트의 다단계 순차 작업 수행 과정에서 각 단계별 성공·실패 방향이 활성화 공간 내에 선형 분리 가능한 형태로 내재되어 있음을 단계별 보상 모델링과 등각 예측(conformal prediction)을 결합한 해석 가능성 프레임워크로 검증하였다. ScienceWorld 및 AlfWorld 환경에서 Llama-2 에이전트를 대상으로 실험한 결과, 선형 프로브(linear probe)가 높은 정확도로 성공·실패 표현을 구별하였으며, 식별된 성공 방향으로 모델을 유도(steering)함으로써 에이전트 성능이 개선됨을 보였다.

arXiv:2604.14228v2cs.SE

Dive into Claude Code: The Design Space of Today's and Future AI Agent Systems

Claude Code의 공개 소스 코드를 분석해 에이전트 루프, 권한 시스템, 컨텍스트 압축 파이프라인, 확장성 메커니즘(MCP·플러그인·스킬·훅), 서브에이전트 위임 등 5개 계층 아키텍처를 체계적으로 규명하고, 동일한 설계 문제에 대해 OpenClaw·Hermes Agent가 배포 맥락에 따라 어떻게 다른 답을 내놓는지를 6개 차원에서 비교한다. 이를 통해 인간 결정 권한, 안전성, 신뢰 실행 등 다섯 가지 설계 철학을 식별하고, 관측 가능성 격차·세션 간 지속성·거버넌스 등 미래 에이전트 시스템을 위한 여섯 가지 개방형 설계 방향을 제시한다.

arXiv:2604.04532v2cs.CL

Multilingual Prompt Localization for Agent-as-a-Judge: Language and Backbone Sensitivity in Requirement-Level Evaluation

Agent-as-a-Judge(AAAJ) 프레임워크의 평가 언어를 영어, 아랍어, 터키어, 중국어, 힌디어 5개 언어로 다국어 로컬라이징하여 6개 판정 모델(judge backbone)과 3개 개발자-에이전트 프레임워크 조합으로 총 4,950회 실험한 결과, GPT-4o는 영어(44.72%)에서 최고 성능을 보이는 반면 Gemini는 아랍어(51.72%)와 힌디어(53.22%)에서 우위를 보이는 등 언어에 따라 모델 순위가 역전됨을 발견했다. 또한 벤치마크 내용뿐 아니라 판정 측 지시문의 언어 로컬라이징이 평가 안정성에 결정적 영향을 미침을 ablation 실험으로 확인하여, 에이전트 벤치마크에서 평가 언어를 명시적 변수로 다뤄야 함을 시사한다.