PyTorchKR Papers

최신 논문

총 11,108편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2506.06616v2cs.CL

LLM 파생 임베딩을 이용한 소셜 미디어 텍스트 기반 해석 가능한 우울증 탐지

Interpretable Depression Detection from Social Media Text Using LLM-Derived Embeddings

소셜 미디어에서 우울적 언어를 정확하고 해석 가능하게 탐지하는 것은 정신 건강 상태의 조기 식별을 지원하고 시의적절한 개입에 도움을 줄 수 있다. 본 논문에서는 소셜 미디어 기반 정신 건강 예측 과제 세 가지—이진 우울증 분류, 우울증 심각도 분류, 우울증·PTSD·불안 간 감별 진단—에 대해 대규모 언어 모델(LLM)과 전통적 기계학습 분류기의 사용을 조사한다. 제로샷 LLM을 기존 텍스트 임베딩, 심리언어학적 특징, LLM이 생성한 정신 건강 요약에서 파생된 임베딩으로 학습한 지도 분류기와 비교한다. 여러 공개 소셜 미디어 텍스트 데이터셋과 5-fold 교차 검증 실험을 통해, 제로샷 LLM은 이진 우울증 분류에서 강한 성능과 일반화를 보이지만 세밀한 심각도 예측에서는 어려움을 겪는다는 것을 확인했다. 반면 LLM 요약 임베딩으로 학습한 지도 모델은 특히 다중 클래스 및 순서형 분류 과제에서 더 정확하고 일관된 성능을 달성하는 경우가 많다. 이러한 결과는 정신 건강 예측에서 현재 LLM의 강점과 한계를 모두 부각하며, LLM을 end-to-end 분류기로만 사용하기보다 의미론적 해석기로 활용하는 것이 더 효과적이고 해석 가능한 정신 건강 평가 시스템 구축을 위한 유망한 방향이 될 수 있음을 시사한다.

arXiv:2505.19212v2cs.CL공식 코드 · Papers with Code

윤리와 보상이 갈라질 때: 도덕적으로 민감한 사회적 딜레마에서의 LLM 에이전트

When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas

최근 LLM의 발전으로 인간이나 다른 에이전트와의 의사결정을 포함하는 복잡한 에이전트 역할에 LLM을 활용할 수 있게 되면서, 윤리적 정렬(alignment)이 중요한 관심사가 되었다. 기존 연구는 LLM의 도덕적 판단과 전략적 행동을 각각 따로 다루어 왔지만, 도덕적 명령이 이익 추구와 직접 충돌할 때 LLM이 어떻게 행동하는지에 대한 이해는 제한적이다. 우리는 \msimfull (\msim)을 도입하여, 9개 모델에 걸쳐 도덕적 프레이밍, 상대 행동, 생존 압력을 변화시키며 도덕적으로 민감한 맥락에 내재된 죄수의 딜레마(prisoner's dilemma)와 공공재 게임(public goods game)에서 LLM이 어떻게 행동하는지 평가한다. 행동 측정을 넘어, 평균 처리 효과(ATE)를 통해 각 요인의 인과 효과를 추정하고, 에이전트 자체의 추론 trace를 분석하여 선택 뒤에 있는 동기를 특성화한다. 어떤 모델도 일관되게 도덕적이지 않으며, 협력률은 7.9\%에서 76.3\%까지 분포한다는 것을 발견했다. 게임 구조와 도덕적 프레이밍이 도덕적 행동의 가장 강한 인과적 동인이며, 추론 trace 분석은 모델마다 뚜렷한 동기 프로필을 드러낸다. 이는 주로 보상 최대화(payoff-maximizing)부터 도덕적·평판 지향적 성향까지 다양하다. 이 결과들은 현재 LLM의 도덕적 행동이 상황에 따라 쉽게 흔들린다는 점과, 이익 추구가 윤리적 지침과 충돌하는 환경에 LLM을 배치할 때의 위험을 드러낸다.

arXiv:2607.22389v1cs.AR

HiKV: LLM 디코딩을 위한 하드웨어 가속 기반 계층적 중요도 인식 KV 캐시

HiKV: Hierarchical Importance-Aware KV Cache with Hardware Acceleration for LLM Decoding

긴 컨텍스트 대규모 언어 모델(LLM)의 빠른 채택과 함께, 디코딩 과정에서 지속적으로 증가하는 KV 캐시가 핵심 메모리 병목이 되었다. 이 문제를 해결하기 위해, 우리는 계층적 중요도 인식을 통해 KV 캐시의 중복성을 활용하는 새로운 알고리즘-하드웨어 공동 설계 HiKV를 제안한다. 알고리즘 측면에서 HiKV는 두 가지 세분성에서 KV 캐시를 압축한다. 1단계에서는 고정된 예산 내에서 중요하지 않은 토큰을 제거하고, 2단계에서는 보존된 각 토큰의 중요한 요소만 추가로 로드하여, 단일 세분성에서는 달성할 수 없는 압축률에 도달한다. 아키텍처 측면에서, 우리는 각 단계가 요구하는 서로 다른 정렬 데이터 경로 사이를 전환하는 재구성 가능한 중요도 정렬기를 중심으로 한 전용 가속기를 개발하여, 최소한의 오버헤드로 하나의 회로에서 2단계 가속을 통합한다. 대표적인 LLM에 대한 평가에서 HiKV는 무시할 수 있는 1% 이내의 정확도 손실 범위에서, 기본 KV 캐시 기준선 대비 어텐션 연산에서 최대 7.95배의 속도 향상과 90%의 에너지 절감을 달성한다. 동일 정확도(iso-accuracy) 제약 하에서 HiKV는 최신 중요도 기반 방법들보다 외부 메모리 접근을 추가로 1.82~4.87배 감소시킴으로써 우수한 성능을 보인다. 이러한 이점은 시스템 면적에 단 8%만 추가하는 특화 하드웨어 구성 요소를 통해 가능하다.

arXiv:2607.22165v1cs.DB

DBA-Bench: LLM 기반 데이터베이스 운영 에이전트를 위한 프로덕션 충실도 벤치마크

DBA-Bench: A Production-Fidelity Benchmark for LLM-Based Database Operations Agents

LLM 기반 데이터베이스 에이전트는 유망하지만, 서로 다른 작업 범위, 테스트베드, 지표로 인해 비교가 어렵다. 본 연구는 평가와 프로덕션 운영 사이의 네 가지 격차를 확인한다: 라이브 환경 충실도(실행 중인 데이터베이스와의 다중 턴 읽기-쓰기 상호작용); 관측 공간의 규모와 복잡성(수천 개의 시계열, 비즈니스 로그, 동시 활동에 걸친 인과 진단); 솔루션 공간의 개방성(서로 다른 운영적 트레이드오프를 갖는 다양한 복구 조치); 시나리오 복잡성과 커버리지(내부 메커니즘 및 운영 도메인에 걸쳐 연쇄되는 장애). DBA-Bench를 제안한다. 이는 프로덕션 충실도, 결과 우선 평가, 제어된 시나리오 재현성을 통해 이러한 격차를 해결하는 벤치마크이다. 계측된 PostgreSQL 환경에 활성 워크로드, 영속 상태, 다중 소스 관측을 사용한다; 안전성 제약 하에서 측정 가능한 복구 또는 장애 제거로 성공을 정의한다; 각 실행 전 시나리오별 검사와 함께 스냅샷을 복원한다. 벤치마크는 7개 작업 도메인에 걸쳐 106개 시나리오를 포함하며, 참조 경로 진단 깊이와 환경 복잡성에 기반한 두 가지 공개 난이도 라벨을 제공한다. 9개 기준선 그룹을 평가한다. 여기에는 6개 기반 모델 시스템, 2개 GPT-5.5 기반 데이터베이스 에이전트, Human DBA 참조가 포함된다. 848회 자동 실행에서 Diagnosis, Outcome, Safe Pass율은 각각 32.7%, 19.6%, 12.4%이며, 최고의 자동화 기준선은 Human DBA 참조의 93.4% 대비 17.9% Safe Pass를 달성한다. 자동화 Safe Pass는 Easy 시나리오의 19.6%에서 Hard 시나리오의 7.6%로 하락하며, 안전한 종단 간(end-to-end) 복구의 어려움을 강조한다.

arXiv:2607.21985v1cs.DC

효율적인 LLM 추론을 위한 통합 정적-동적 가지치기

Unified Static-Dynamic Pruning for Efficient LLM Inference

대규모 언어 모델(LLM)의 배포가 증가하면서, 낮은 연산 강도와 대역폭 제약 커널이 추론 비용을 지배하는 자기회귀 디코딩의 계산 및 메모리 병목이 더욱 두드러지고 있다. 가중치 가지치기는 유망한 해결책을 제공하지만, 기존 방법은 영구적으로 중복 가중치를 제거하지만 적응성이 부족한 정적 가지치기(SP), 또는 입력 희소성에 적응하지만 런타임 불규칙성을 유발하는 동적 가지치기(DP) 중 하나에 국한되어 있다. 본 논문은 GPU에서의 효율적인 LLM 추론을 위해 비구조화 SP와 입력 적응형 DP를 통합하는 통합 희소 추론 프레임워크인 SPDP를 제시한다. SPDP는 새로운 Tiled-Column-wise Bitmap Compressed(Tiled-CBC) 형식과 두 가지 상호 보완적인 GPU 커널을 공동 설계한다: (1) 세밀한 런타임 활성화 건너뛰기를 위한 Hybrid Activation-aware Dynamic Shared-Memory Bitmap Decoding(HAD-SMBD)을 특징으로 하는 CUDA 코어 spMspV 커널, (2) prefill 연산에 최적화된 Tensor-Core SpMM 커널. 이 형식-커널 공동 설계는 정적 및 동적 희소성을 조화시키며, LLM 추론의 두 단계 모두에서 대역폭 효율적인 메모리 접근과 높은 연산 강도를 유지한다. 추론 최적화 GPU에 대한 포괄적 평가에서 SPDP는 SpInfer와 같은 최신 희소 프레임워크 대비 평균 1.24x–1.37x(최대 2.51x)의 속도 향상을 달성하면서, 최대 25% 더 높은 희소성에서 perplexity를 동등하게 유지한다. SPDP는 추론 효율-품질 파레토 프론티어를 전진시키며, 통합 정적-동적 가지치기가 대규모 LLM 서빙에서 상당한 처리량 및 와트당 성능 개선을 제공할 수 있음을 보여준다.

arXiv:2607.21946v1cs.LG

SeePhys Pro를 위한 다중 에이전트 토론과 시각 정보 추출: ICML 2026 AI4Math 트랙 3 챌린지 1위 기술 보고서

Multi-Agent Debate and Visual Information Extraction for SeePhys Pro: A 1st-Place Technical Report from ICML 2026 AI4Math Track 3 Challenge

이 기술 보고서는 제3회 AI for Math 워크숍의 챌린지 트랙 3: SeePhys Pro에 대한 우리의 접근법을 제시한다. 이 과제에서는 문제 설명과 그림이 부분적으로 또는 전적으로 이미지 형태로 주어질 수 있는 대학 수준의 물리학 문제에 답하는 것이 목표이다. 시각적 물리 문제는 결정적인 정보가 텍스트가 아닌 그림에 있을 때 대규모 언어 모델(LLM)에게 상당히 더 어려워지며, 문제의 더 많은 부분이 이미지로 이동할수록 이러한 모달리티 격차(modality gap)는 더욱 커진다. 우리는 이 과제를 2단계 프레임워크로 해결한다: 모달리티 격차를 좁히기 위해 그림 내용을 솔버가 읽을 수 있는 텍스트로 재표현하는 시각 정보 추출 단계, 그리고 다중 에이전트 토론을 통해 세 개의 이질적 솔버를 조율하는 추론 단계로 구성된다. 우리의 분석은 두 가지 발견을 낳는다: 조율(orchestration)로 인한 이득은 추가적인 토론이 아니라 신뢰할 수 있는 답 선택에서 비롯되며, 그림 보조의 가치는 문제의 어느 정도가 이미지 안에 담겨 있는지에 비례하여 커진다. 결과적으로 이 파이프라인은 공개 분할(public split)에서 단일 에이전트 기준선 대비 전체 정확도를 0.643에서 0.802로 향상시켰으며, 공개 및 비공개 리더보드 모두에서 1위를 차지했다(비공개 전체 0.743).

arXiv:2607.21927v1cs.LG

RIS-Kernel: 희소 어텐션을 통한 긴 컨텍스트 LLM 추론을 위한 모델 무관 아키텍처

RIS-Kernel: A Model-Agnostic Architecture for Long-Context LLM Inference via Sparse Attention

대규모 언어 모델에서 전체 셀프 어텐션(self-attention)의 복잡도는 O(N^2)로 스케일링되며, 이는 긴 컨텍스트 문서 분석을 65,536 토큰으로 제한하고 비용이 큰 GPU 클러스터를 필요로 한다. Reduced Interaction Sampling(RIS) 추론 엔진은 모델 무관 아키텍처로서 이 제약을 해결한다. 가중치를 수정하지 않고, RIS는 상용 메모리 한계 내에 맞는 희소 확률적 기하학(sparse stochastic geometry)을 사용하여 셀프 어텐션 복잡도를 O(N log N)으로 줄인다. 우리는 두 가지 체제에서 Qwen2-1.5B-Instruct에 대해 RIS를 검증한다. 32,768 토큰에서의 통제된 평가(여기서 네이티브 밀집(dense) 어텐션이 상한 역할을 함)에서, 1% 밀도와 70개 앙상블 시드(seed)를 사용한 RIS-Stochastic은 75.00% 정확도를 달성하여 네이티브 밀집 기준선(71.88%)을 능가하며, 5% 밀도와 10개 시드를 사용한 RIS-Stochastic은 이와 동일한 수준(71.88%)에 도달한다. 이는 희소 어텐션이 정규화(regularizer) 역할을 함을 보여준다: 여러 시드에 걸친 낮은 밀도(1%)는 시퀀스 수준의 노이즈를 걸러내는 반면, 더 높은 밀도(5%)는 방해(distractor) 노이즈를 다시 도입한다. 가장 타이트한 예산 하에서, RIS-Structural은 10개 시드만으로 1% 밀도에서 68.75% 정확도에 도달하여, 제로 컨텍스트 하한(floor)(59.38%) 대비 컨텍스트 격차의 75%를 회복한다. 65,536 토큰에서는 밀집 어텐션이 메모리 부족(out-of-memory) 오류를 유발하는데, RIS는 제로 컨텍스트 하한(51.56%) 대비 최대 14.06퍼센트포인트의 검색(retrieval) 이득을 제공하며, 이는 McNemar의 대응 검정(paired test)에서 한계적으로 유의함(p = 0.078 < 0.10)으로 확인된다. 모든 평가는 상용 비가속 CPU 서버(16-128 GB RAM)에서 실행되었으며, GPU 가속 없이도 표준 학술 하드웨어에서 긴 컨텍스트 LLM 추론이 가능함을 보여준다.

arXiv:2607.21856v1cs.LG

LeAct: 전문가 행동으로부터 추론 학습

LeAct: Learning to Reason from Expert Actions

현대 추론 모델은 추론 데이터에 의존하며, 오늘날 이는 인간 주석이나 더 강한 LLM으로부터 증류되어 공급된다. 그러나 풍부하고 아직 거의 활용되지 않은 감독 신호의 원천은 전문가 시스템(expert systems)(예: 게임 엔진, 고전적 플래너, 정리 증명기)에 있으며, 이들은 다양한 도메인에서 거의 최적에 가까운 행동을 일관되게 생성한다. 하지만 이러한 전문가들은 침묵한다. 그들은 행동 뒤에 있는 사고의 연쇄(CoT)를 적어두지 않은 채 행동을 선택한다. 해당 CoT를 자연어 추론으로 복원하면 전문가 지식을 시연된 행동을 넘어 일반화하는 학생 모델로 증류할 수 있다. 우리는 이를 잠재 변수(latent variable)로 취급하고 행동만으로 이를 복원하는 방법을 연구한다. 우리의 접근법 LeAct(Learning to reason from Actions)는 이 잠재 변수를 최적화한다. 학생 모델은 각 전문가 행동에 대한 후보 CoT를 샘플링하고, 행동을 복원할 자신의 확률을 측정 가능하게 향상시키는 것만을 유지한다. 여러 규모의 불완전 정보 게임과 시뮬레이션 로봇 벤치마크에서 LeAct는 작고 열거 가능한 게임에서 솔버의 수치적 하한(numerical floor)에 도달한다. 더 큰 규모에서는 가장 강력한 전문가 반복(expert-iteration) 기준선보다 솔버에 $5\times$ 더 가깝다. Flop Hold'em($\sim 10^9$ infosets)에서 LeAct는 일대일 대결에서 $+60$ mbb/g로 승리하며, 로봇 프로브에서는 직접 모방(direct imitation)을 개선하는 유일한 학습 방법이다. 우리는 원칙적인 프레임워크와 결과를 제시한다. 전문가 시스템이 기초 모델(foundation models)을 위한 범주적으로 새로운 추론 교사의 원천이 된다.

arXiv:2607.21832v1cs.SE

AI 코딩 에이전트는 소프트웨어 개발에 어떻게 기여하는가? 에이전틱 풀 리퀘스트에 대한 실증 연구

How Do AI Coding Agents Contribute to Software Development? an Empirical Study of Agentic Pull Requests

최근 대규모 언어 모델(LLM)의 발전과 소프트웨어 공학 작업 전반에 걸친 급속한 도입으로, 인공지능(AI) 코딩 에이전트는 현대 소프트웨어 개발 워크플로의 필수 구성 요소가 되었다. 개발자들이 이러한 코딩 에이전트로부터 점점 더 많은 이점을 얻고 있지만, 소프트웨어 품질에 미치는 영향은 여전히 충분히 이해되지 않았다. 특히 소프트웨어 개발 수명 주기 전반에 걸쳐 에이전틱 기여가 어떻게 변화하는지는 철저히 조사되지 않았다. 본 연구는 에이전틱 풀 리퀘스트(PR)를 사람이 생성한 PR과 비교하여 특성을 규명하고, 개발 수명 주기의 서로 다른 단계에서 그 속성이 어떻게 변화하는지 조사하는 것을 목표로 한다. AIDev 데이터셋을 사용하여, 먼저 에이전틱 PR과 사람이 생성한 PR 간 병합률 차이가 시간에 따라 어떻게 변하는지 분석한다. 다음으로 AI 코딩 에이전트가 주로 적용되는 개발 작업 유형을 파악하고, 이러한 작업 분포가 개발 분기(quarter)에 걸쳐 어떻게 변화하는지 조사한다. 마지막으로 에이전틱 PR과 사람이 생성한 PR의 핵심 특성들을 비교하며, 소프트웨어 품질에 대한 함의와 시간적 역학에 초점을 맞춘다. 전반적으로 본 연구 결과는 소프트웨어 개발에서 AI 코딩 에이전트의 역할에 대한 실증적·종단적 관점을 제공하며, 실제 현장에서의 이점과 한계에 대한 보다 미묘한 이해를 제시한다.

arXiv:2607.21804v1cs.CR

Speculative Decoding에서 수용 붕괴를 유발하는 적대적 프롬프트

Adversarial Prompts for Acceptance Collapse in Speculative Decoding

speculative decoding과 같은 무손실 가속 기법은 draft 모델과 target 모델 간의 동적 토큰 수준 정렬에 의존하여 상당한 추론 속도 향상을 약속한다. 그러나 이러한 의미적 동등성 보장은 심각한 운영 취약점을 가린다. draft-target 정렬은 체계적으로 공격될 수 있다. 본 논문에서는 ADSD를 제안한다. 저희가 아는 한, 이는 draft 확률 질량을 target이 수용할 가능성이 낮은 토큰 쪽으로 밀어 검증자(verifier) 수용(acceptance)을 붕괴시키는 최초의 프롬프트 접미사 공격이다. ADSD는 비대칭 speculative 수용 규칙에서 파생된 검증자 정렬 대리(surrogate)인 Soft-Collapse와, 명백한 태스크 손상을 억제하는 target 보존 목적 함수를 함께 사용한다. ADSD는 매우 효과적인 적대적 접미사를 성공적으로 생성한다. GSM8K 데이터셋에서 본 공격은 태스크 품질을 유지하면서 평균 샘플링 시간을 62.3% 증가시킨다. 또한 이러한 취약점이 서로 다른 도메인, speculative decoding 전략, 모델 아키텍처 전반에 존재함을 보인다.

arXiv:2607.21756v1cs.DB

프롬프트를 데이터 타입으로: 데이터베이스 내 LLM 프롬프트 관리 및 재작성

Prompt as a Data Type: In-Database LLM Prompt Management and Rewriting

대규모 언어 모델(LLM)은 데이터베이스 기반 애플리케이션에서 튜플 분류, 의미적 술어를 이용한 레코드 필터링, 구조화된 속성 추출, 쿼리 결과 보강 등에 점점 더 많이 사용되고 있다. 그러나 이러한 연산을 시작하는 프롬프트는 일반적으로 DBMS 외부의 비구조화 형식으로 저장되어, 쿼리 실행, 메타데이터 관리, 최적화에 보이지 않게 된다. Stonebraker의 'QUEL as a Data Type'과 반성적 프로그래밍(reflective programming) 원칙에 기초하여, 본 논문은 프롬프트를 튜플 수준의 데이터베이스 값으로 취급하는 데이터베이스 시스템 PromptDB를 소개한다. PromptDB는 템플릿, 튜플 속성에 대한 바인딩, 모델 메타데이터, 태스크 메타데이터를 저장하는 논리적 PROMPT 데이터 타입을 제공한다. 릴레이션은 기본 테이블에 PROMPT 속성을 직접 포함하거나, 조인된 튜플에 대한 뷰를 통해 이를 노출할 수 있다. 사용자는 생성된 평가 뷰를 통해 프롬프트 값 속성을 쿼리하고, 시스템은 내부적으로 EVAL 연산자를 통해 프롬프트를 렌더링, 재작성, 최적화, 실행한다. 프롬프트를 데이터베이스에서 볼 수 있게 하면 새로운 최적화 공간이 생긴다. 핵심 아이디어는 옵티마이저 사고방식을 프롬프트에 가져오는 것이다. 쿼리 옵티마이저가 데이터베이스 메타데이터를 활용해 SQL 계획을 재작성하는 것처럼, PromptDB는 데이터베이스 메타데이터를 활용해 프롬프트를 재작성한다. 다양한 태스크에 걸친 합성 및 실제 데이터 워크로드에서 PromptDB를 평가했다. 결과는 데이터베이스 기반 재작성이 출력 유효성을 어떻게 개선하고, 정적·수동 작성 프롬프트에 비해 유리한 비용-품질 트레이드오프를 제공하는지 보여준다.

arXiv:2607.21716v1cs.LG

이차 모델에 대한 옹호

A Defense of the Quadratic Model

신경망 손실 경관의 복잡성 때문에 최적화 이론은 이상화된 모델에 의존할 수밖에 없으며, 일반적으로 모델이 이론적으로 다루기 얼마나 용이한지와 실제 최적화 역학을 얼마나 정확히 기술하는지 사이에는 트레이드오프가 존재한다. 본 연구에서는 최적화의 가장 단순한 모델인 이차 모델을 스트레스 테스트하고, 1.5억(150M)개의 파라미터와 30억(3B)개의 학습 토큰을 갖는 대규모 언어 모델(LLM) 설정에서 놀랄 만큼 예측력이 있음을 보인다. 구체적으로, 학습 과정의 중간 체크포인트에서 모델과 손실 함수를 Taylor 전개하면 학습의 최대 10%에 해당하는 구간 동안의 최적화 역학을 정확히 예측할 수 있음을 보인다. 이러한 일치를 확인한 뒤, 헤시안 스펙트럼과 국소 안정성이라는 두 관점을 통해 이러한 국소 이차 최적화 문제의 구조를 분석한다. 극히 깊은 프로브를 사용한 Lanczos 구적법을 통해 헤시안 스펙트럼의 꼬리 부분 깊숙이까지 추정할 수 있으며, 고유값과 고유벡터 모두에서 놀라운 양의 구조가 존재함을 발견하는데, 이는 배치 크기, 전처리기(preconditioner), 학습 시간에 따라 달라진다. 또한 중간 체크포인트에서 국소 선형 안정성을 실증적으로 검증하고 이론적 예측과 비교하여, LLM에서의 최적화는 일반적으로 확률적 안정성 경계(stochastic edge of stability)에서 일어나며, 그 성격 또한 배치 크기에 의해 결정됨을 보인다. 우리의 결과는 이차 모델이 사전학습 최적화 역학에 대한 이론적으로 다루기 용이한 대리(proxy)가 될 수 있음을 시사한다.

arXiv:2607.21680v1cs.LG

교량 진단 에이전트를 위한 보이지 않는 인과관계 인코딩: QLoRA 기반 트리플 가이드 검색-증강 미세조정

Encoding Invisible Causation for Bridge Diagnostic Agents: Triple-Guided Retrieval-Augmented Fine-Tuning with QLoRA

교량 인프라는 점진적으로 열화되지만, 염분 침투, 동결, 피로 균열 등 그 근본 원인은 육안으로는 확인하기 어렵다. 전문가 진단은 수년간의 실무를 통해 축적된 암묵적 지식에 의존한다. 우리는 이러한 잠재적 인과 추론을 자동화하는 과제를 해결하기 위해, 가시적 손상 설명 $S_i$로부터 10개 클래스의 손상 원인을 분류하는 Damage Cause Encoder를 제안하여 자율 교량 진단 에이전트에 활용한다. 우리의 접근법은 세 가지 구성 요소를 연결한다: (i) 지식 트리플 추출(Knowledge Triple Extraction)---대규모 언어 모델이 15--35개의 진단 PDF 매뉴얼에서 (damage $\xrightarrow{\mathtt{caused\_by}}$ cause) 형태의 인과 트리플을 추출하고 이를 FAISS 벡터 저장소에 색인한다; (ii) 검색-증강 컨텍스트(Retrieval-Augmented Context)---학습 및 추론 시점에 관련 인과 트리플 $\mathcal{C}_i$를 검색하여 $S_i$와 연결함으로써 암묵적 도메인 지식을 명시적 Encoder 컨텍스트로 변환한다; (iii) 체계적 미세조정 비교(Systematic Fine-tuning Comparison)---고정된 Golden Testset(층화된 116개 샘플)에서 LoRA, QLoRA, QA-LoRA를 엄격하게 비교하여, QLoRA가 최적의 절충점을 달성함을 보인다: 전 정밀도(full-precision) LoRA와 동일한 테스트 정확도(87.07%), 11% 더 빠른 추론, 72% 낮은 GPU 메모리, 그리고 다양한 미관측 입력에 대한 우수한 일반화. 통제된 Golden Testset---층화, 중복 제거, 난이도 태깅---을 재사용 가능한 벤치마크 기여로 제안한다. QLoRA는 10개 손상 원인 클래스 전체에 걸친 100개 샘플의 다양한 평가에서 LoRA보다 13%p 더 우수한 성능을 보인다. 이러한 결과는 엣지 배포를 위해 소비자급 하드웨어에서 메모리 효율적이고 고정확도의 진단 에이전트를 가능하게 한다.

arXiv:2607.21635v1cs.LG

시간적 개입 하에서 사용자 조건화된 개인 LLM 에이전트 평가를 향하여

Toward User-Conditioned Evaluation of Personal LLM Agents under Temporal Interventions

개인 에이전트는 사용자마다 진화하는 기억, 학습된 기술, 도구 구성, 정책 상태를 유지한다. 기존 에이전트 벤치마크는 이러한 역량을 종종 분리하여 평가한다. 도구 벤치마크는 고정된 API 하에서 호출을 검증하고, 기억 벤치마크는 기억 회상(recall)이나 망각을 검증하며, 안전성 벤치마크는 정적 정책 준수를 검증한다. 우리는 개인 에이전트 평가에 다른 프로토콜이 필요하다고 주장한다. 서로 다른 지속적 사용자 조건 상태에서 동일한 시간적 개입을 재현하고, 실패가 에이전트 구성 요소 전반에 어떻게 전파되는지 측정하는 것이다. 이 요구사항을 네 가지 조건으로 형식화한다. 명시적 시간적 개입, 개입을 가로지르는 지속적 상태, 유도된 교차 차원 효과, 사용자 조건 상태의 변화이다. 명시적 포함 기준으로 선정한 공개 벤치마크 프로토콜에 대한 집중 감사는 여러 근접 사례를 확인한다. 우리의 명시적으로 좁은 운영적 정의 하에서, 감사 대상 집합에서 네 가지 조건을 모두 만족하는 프로토콜은 발견하지 못했다. 이 주장은 제한된 문헌 범위를 갖는 집중적 공백 분석으로 범위가 한정된다. 본 논지(position) 논문은 사용자 조건 적응을 위한 최소 벤치마크 설계와 후보 보고 지표를 제안한다. 그 결과는 향후 개인 에이전트 평가를 위한 구체적 설계 요구사항이며, 지표는 해당 요구사항에 대한 보고 도구로 사용된다.

arXiv:2607.21453v2cs.LG

오류 국소화를 통한 테스트 시점 스케일링

Test-Time Scaling via Error Localization

추론 시점 연산의 스케일링은 복잡한 추론 및 프로그래밍 과제에서 대규모 언어 모델(LLM)의 성능을 향상시키는 신뢰할 수 있는 방법으로 부상했다. 그러나 독립 샘플링(independent sampling)과 순차적 다중 턴 정제(sequential multi-turn refinement)와 같은 표준 접근법은 토큰 수준의 credit assignment 없이 동작하여, 유효한 추론 접두 문맥이 자주 폐기되기 때문에 계산 비효율이 발생한다. 본 연구에서는 고정 또는 환경 피드백을 활용해 토큰 수준의 오류 국소화를 수행하는 추론 시점 알고리즘인 Test-Time Scaling via Error Localization(TTEL)을 제안한다. 정보가 제공된 피드백 하에서의 조건부 확률을 null-context 기준선과 비교함으로써, TTEL은 오류가 발생한 단계를 분리한다. 그다음 알고리즘은 궤적을 잘라내고 새로운 생성을 분기하여, 유효한 접두 문맥을 최대한 재사용한다. 광범위한 평가 결과, TTEL은 생성 토큰 비용 대비 pass-at-k로 측정한 순차 추론 영역 전반에서 엄격하게 우위에 있는 파레토 프런티어를 형성함을 보여준다. LiveCodeBench에서 Qwen3-8B를 사용할 때, TTEL은 독립 샘플링이 생성하는 토큰 수(735.0k)의 약 절반(360.4k)만 생성하면서 pass@64 71.0%를 달성한다. 수학 벤치마크 AIME-2025와 HMMT-2025로 일반화할 때, TTEL은 Qwen3-8B와 Qwen3-4B-Thinking-2507 모두에서 경쟁하는 테스트 시점 기준선들을 명확히 능가한다.

arXiv:2607.18955v3cs.LG

H$^2$SD: 하이브리드 후견 자기 증류

H$^2$SD: Hybrid Hindsight Self-Distillation

검증 가능 보상 강화학습(RLVR)은 언어 모델 추론에 신뢰할 수 있는 결과 감독을 제공하지만, 스칼라 궤적 보상은 토큰 수준 지도를 제한적으로만 제공한다. 기존 자기 증류(self-distillation) 방법은 특권 교사(privileged teacher)를 추가하지만 일반적으로 고정된 역할을 부여한다: 직접적인 분포 매칭(distribution matching)은 성공적인 행동을 불안정하게 만들 수 있고, 크기만 조절(magnitude-only modulation)하는 방식은 실패 이후에는 거의 교정적 지도를 제공하지 못한다. 우리는 성공한 궤적과 실패한 궤적이 서로 다른 형태의 후견(hindsight) 지도를 필요로 한다는 점을 관찰한다. 성공적인 응답은 이미 유효한 학생(student)이 생성한 추론 경로를 포함하므로, 외부 근거로 대체되기보다 특권 컨텍스트로 활용될 수 있다. 반면 실패한 응답은 교정을 위한 참조 정보가 필요하다. 우리는 Hybrid Hindsight Self-Distillation($\mathrm{H}^{2}\mathrm{SD}$)을 제안한다. 이 방법은 교사 컨텍스트와 업데이트 전략을 궤적의 정확성에 맞게 공동으로 적응시킨다. 성공한 궤적에 대해서는 검증된 응답과 재구성(rephrasing) 지시문으로 교사 컨텍스트를 구성하고, 교사는 원래 응답 토큰을 재평가하는 데만 사용한다. 이렇게 얻은 확률은 보상이 결정한 방향을 바꾸지 않으면서 토큰 신용 할당(credit assignment)을 정교화한다. 실패한 궤적에 대해서는 검증된 참조 힌트가 역 KL 증류(reverse-KL distillation)를 통해 교정적 지도를 제공한다. 도전적인 추론 벤치마크에서의 실험은 H$^2$SD가 대표적인 RLVR 및 자기 증류 베이스라인 중 최고의 전반적 성능을 달성하며, 안정적인 최적화와 유리한 정확도-효율 트레이드오프를 보여준다.

arXiv:2607.18722v3cs.LG

낡았지만 안정적: 비동기 강화학습 안정화를 위한 낡음 적응형 신뢰 영역

Stale but Stable: Staleness-Adaptive Trust Regions for Stabilizing Asynchronous Reinforcement Learning

비동기 강화학습은 롤아웃 생성과 최적화를 분리함으로써 처리량을 높이지만, 그로 인한 낡음(staleness)은 피할 수 없는 부산물이며, 정책 지연, 엔진 지연, 전문가 혼합(MoE) 라우팅이 복합적으로 이를 악화시킨다. 신뢰 영역(trust region) 관점에서 이러한 불일치는 중요하다. 유한 수평선 개선 상한(finite-horizon improvement bound)에서 학습-추론 발산(training-inference divergence)이 근사 오차를 지배하는 반면, PPO 클리핑은 샘플링된 외향(outward) 업데이트만 게이트하므로 전체 정책 제약이 아니라 샘플링된 대리(surrogate)로 작용한다. 그 결과, 높은 낡음 업데이트는 낡은 롤아웃이 가장 중요한 바로 그 비동기 체제에서 약하게 제어된 채 남을 수 있다. 우리는 분리된(detached) 샘플링 log-ratio를 실용적인 낡음 프록시로 사용하고, 낡음 기반 커널 함수 스케일링을 통해 각 배치 내 고불일치(high-mismatch) 꼬리를 식별하며, Effective contraction factors를 사용해 명목 PPO 구간의 부호 선택(sign-selected) 끝점만 수축(contract)하는 Staleness-Adaptive Trust Region(SAT)을 제안한다. 이 설계는 일반 토큰에서 기준선 동작을 보존하면서, 새로 가로챈(intercepted) 외향 밴드에서만 업데이트를 더 보수적으로 만든다. 우리는 Qwen3-30B-A3B-Base 기반의 완전 분리형 비동기 강화학습 설정에서 SAT를 평가하며, SGLang을 추론 엔진으로, Megatron을 학습 파이프라인으로 활용한다. 이 설정에서 SAT-GSPO w/ R3는 관측된 최고 AIME24 avg@8을 달성하여 lag 1에서 35.83, lag 8에서 34.79에 도달했으며, SAT-GSPO는 lag 1에서 34.17에 도달한다. 더 넓게 보면, 결과는 클립 구간을 관측된 낡음 이질성(staleness heterogeneity)에 맞추는 것이 보고된 비동기 체제를 안정화하는 효과적인 방법임을 보여준다.

arXiv:2607.15456v2cs.LG

루프형 잠재 어텐션: 루프형 Transformer를 위한 루프 간 KV 압축

Looped Latent Attention: Cross-Loop KV Compression for Looped Transformers

가중치 공유 루프형 Transformer는 단일 블록을 재사용하여 파라미터를 줄이지만, 디코딩 시에는 여전히 각 순환 단계마다 별도의 K/V 캐시를 저장한다. 우리는 이 루프 인덱스 캐시가 매우 구조적임을 보인다. 고정된 토큰, 층, 헤드에 대해 K/V 벡터는 루프에 걸쳐 짧은 저랭크(low-rank) 궤적을 그리는 반면, 헤드 및 층 축은 훨씬 더 평탄하게 유지된다. 우리는 Looped Latent Attention(\lla{})을 제안한다. 이는 사후 학습 캐시 코덱으로, 압축된 K 및 V 잠재(latent)를 저장하고 어텐션이 이를 읽을 때에만 루프별 K/V 벡터를 복원한다. 기본 per-head 코덱은 순환을 압축하며, \lla{}-2D는 극한 압축 구간에서 헤드들을 하나의 잠재 표현으로 접어 넣기도 한다. 코덱은 교사(teacher) 활성화의 SVD로 초기화되며, 로짓 및 어텐션 출력 증류(distillation)로 정제된다. 동일한 캐시 예산에서 per-head \lla{}는 헤드 축 MLA, 층 간 공유, KV 양자화, 최종 루프 재사용보다 우수하며, 순환 캐시가 저랭크이지만 단일 상태로 안전하게 축소할 수 없음을 보여준다. 동일한 축 이점은 Ouro-2.6B-Thinking에서도 유지되며 Huginn-3.5B로 전이된다. 여기서 SVD 코덱은 디코더 독립 평가에서 $32\times$ 압축까지 거의 무손실을 유지한다. 캐시 축소는 정확하다. H200 1대에서 잠재 저장 경로는 4k 컨텍스트에서 $21.3\times$ 압축 시 측정된 Ouro-1.4B 배치 용량을 32개 시퀀스에서 768개 시퀀스로 증가시킨다. 마지막으로, MATH-500과 같은 긴 추론 롤아웃(rollout)에서, 학생이 생성한 접두(prefix)에 대한 온-정책 정제는 $4\times$ 압축에서 정확도를 0.43에서 0.66으로 높이며, 토큰 수준 오프-정책 증류와 비교할 때 무응답 생성을 줄인다.

arXiv:2607.12447v2cs.LG

대규모 언어 모델에서 신뢰도의 계산론적 기반

The Computational Basis of Confidence in Large Language Models

신뢰할 수 있는 신뢰도 — 모델 자체의 답이 옳을 확률 — 는 언어 모델의 신뢰성 있는 배포에 필수적이다. 기존 연구는 대체로 신뢰도가 정답을 얼마나 잘 예측하는지, 그리고 보정(calibration)이 잘 되는지를 기준으로 평가해 왔으며, 보다 근본적인 질문은 남겨 두었다: 신뢰도 신호 자체가 무엇을 나타내는가? 답변 로짓은 규범적(normative) 신뢰도를 계산하기에 충분한 잠재 의사결정 변수(latent decision variable)를 반영할 수도 있고, 또는 사용 가능한 증거를 비베이지안(non-Bayesian) 방식으로 결합하는 휴리스틱 선호 신호일 수도 있다. 우리는 계산 신경과학의 규범적 프레임워크인 통계적 의사결정 신뢰도(statistical decision confidence, SDC)를 사용하여 이를 다룬다. 답변 로짓 차이(answer-logit difference, LD)를 잠재 의사결정 변수의 후보 판독값(readout)으로 간주하고, SDC가 예측하는 질적 특징(signature)을 검증한다. 세 가지 지각 판별(perceptual discrimination) 과제와 하나의 기억 기반 의사결정 과제에 걸쳐, 추론이 아닌 멀티모달 모델 세 개와 추론 모델 하나를 대상으로 LD가 이러한 특징들 — 진단적 정답/오답 접힌-X(folded-X) 패턴을 포함하여 — 을 만족함을 보였으며, 이는 이러한 설정에서 답변 로짓이 휴리스틱 선호 점수가 아니라 잠재 의사결정 변수의 단조(monotonic) 판독값으로 작동함을 나타낸다. 복잡한 시각 추론에서는 LD가 객관적 과제 난이도를 넘어 정답 여부를 계속 예측했지만, SDC의 전체 기하학적 특징은 나타나지 않았으며, 이는 명시적 규범적 과정 모델이 없을 때 프레임워크의 현재 한계를 보여 준다. 이 결과는 멀티모달 언어 모델에서 신뢰도에 대한 계산론적 설명을 제공하고, 답변 로짓이 잠재 의사결정 변수의 판독값으로 작동하는 조건을 구분하며, SDC를 생물학적·인공 지능 전반에 걸친 신뢰도 연구의 통합 프레임워크로 확립한다.

arXiv:2607.07003v2cs.LG

LLM에서 아첨의 내부 표현 분리

Dissociating the Internal Representations of Sycophancy in LLMs

대규모 언어 모델(LLM)은 틀렸을 때에도 사용자의 진술에 동의하는 아첨(sycophancy)을 자주 보인다. 아첨은 종종 하나의 균일한 행동으로 연구되지만, 맥락에 따라 실질적으로 뚜렷이 다른 방식으로 나타날 수 있으며, 이러한 이질성이 내부 메커니즘에 반영되는지에 대한 질문을 제기한다. 이 공백을 메우기 위해, LLM에서 이질적인 진실 표현에 대한 선행 연구를 바탕으로 아첨의 표현을 사실(factual) 및 의견(opinion) 하위 유형으로 분리한다. 한 하위 유형의 활성화(activation)에 대해 선형 프로브(linear probe)를 학습하고 스티어링 벡터(steering vector)를 구성한 뒤, 다른 유형으로의 전이(transfer)를 평가하여 표현이 얼마나 공유되는지 측정하고 선형 판별 분석(Linear Discriminant Analysis)을 통해 시각화한다. 다양한 LLM이 이러한 하위 유형을 서로 다르게 표현하며, 더 유사하거나 더 뚜렷히 구분된 표현을 보인다는 것을 발견하고, 이 통찰을 아첨 감소를 위한 표현적 개입(representational intervention) 개선에 적용한다. 우리의 분리 방법은 복잡한 모델 행동의 표현 구조를 연구하기 위한 일반적인 프레임워크를 제공한다.