PyTorchKR Papers

최신 논문

총 2,732편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2507.18043v2cs.CL

GrAInS: LLM 및 VLM의 추론 시간 조정을 위한 그래디언트 기반 어트리뷰션

GrAInS: Gradient-based Attribution for Inference-Time Steering of LLMs and VLMs

추론 시간 조정(inference-time steering) 방법은 모델 가중치를 업데이트하지 않고 테스트 시간에 내부 활성화를 수정함으로써 대규모 언어 모델(LLM)과 비전-언어 모델(VLM)의 미세조정에 대한 경량 대안을 제공한다. 그러나 기존 접근법의 대부분은 고정된 전역 개입 벡터에 의존하고, 개별 입력 토큰의 인과적 영향을 간과하며, 특히 시각적 입력과 텍스트 입력이 불균등하게 기여하는 멀티모달 환경에서 모델 로짓(logits)의 유익한 그래디언트를 활용하지 못한다. 이러한 한계를 해결하기 위해, 우리는 언어 전용 모델과 비전-언어 모델 및 태스크 모두에 걸쳐 작동하는 추론 시간 조정 접근법인 GrAInS를 제안한다. GrAInS는 통합 그래디언트(Integrated Gradients)를 통한 대조적(contrastive) 그래디언트 기반 어트리뷰션을 사용하여, 선호 출력 대비 비선호 출력에 대한 기여도를 기준으로 긍정적 및 부정적으로 귀속된 상위-k개의 가장 영향력 있는 토큰을 식별한다. 이 토큰들은 바람직하지 않은 행동에서 바람직한 행동으로의 의미론적 전환을 포착하는 방향성 조정 벡터(directional steering vector)를 구성하는 데 사용된다. 추론 과정에서 GrAInS는 토큰 수준 어트리뷰션 신호에 따라 트랜스포머 레이어의 은닉 활성화를 조정하고, 표현적 스케일을 보존하기 위해 활성화를 정규화한다. 이를 통해 재학습이나 보조 지도(auxiliary supervision) 없이 모델 행동에 대한 세밀하고 해석 가능하며 모듈식 제어가 가능해진다. 실험적으로, GrAInS는 미세조정 및 기존 조정 기준선 모두를 지속적으로 능가한다: Llama-3.1-8B를 사용하여 TruthfulQA에서 13.22%의 정확도 향상을 달성하고, LLaVA-1.6-7B를 사용하여 MMHal-Bench의 환각 비율을 0.624에서 0.514로 감소시키며, SPA-VL에서 정렬 승률을 8.11% 향상시키면서 모델의 유창성과 일반적 능력을 보존한다.

arXiv:2502.12446v3cs.CL

타깃 개입을 통한 언어 모델의 다중 속성 조향

Multi-Attribute Steering of Language Models via Targeted Intervention

추론(inference) 시점 개입(ITI)은 대규모 언어 모델(LLM)의 매개변수(parameter)를 비용이 큰 방식으로 업데이트하지 않고 토큰(token) 표현에 개입함으로써 LLM의 행동을 특정 방향(예: 유용성 향상)으로 조향하는 유망한 방법으로 부상했다. 그러나 기존 ITI 접근법은 유용성을 높이면서 동시에 독성을 줄이는 것처럼 충돌이 발생하는 다중 속성 설정으로 확장하는 데 한계가 있다. 이를 해결하기 위해 우리는 여러 속성에 걸쳐 선택적 토큰 수준 개입을 위해 설계된 새로운 조향 프레임워크인 다중 속성 타깃 조향(MAT-Steer)을 제안한다. MAT-Steer는 바람직하지 않은 출력의 모델(model) 내부 표현을 바람직한 출력의 표현에 가깝게 이동시키는 정렬(alignment) 목적 함수를 사용하여 조향 벡터를 학습하며, 서로 다른 속성 간의 벡터에 희소성(sparsity)과 직교성을 부여함으로써 속성 간 충돌을 줄인다. 우리는 MAT-Steer를 두 가지 설정에서 평가한다: (i) 진실성, 바이어스(bias), 독성 등의 속성 간 균형을 맞추는 질의응답(QA) 태스크, (ii) 유용성, 정확성, 일관성 등의 속성을 동시에 개선하는 생성 태스크. MAT-Steer는 두 태스크 유형 모두에서 기존 ITI 및 매개변수 효율적 미세조정(fine-tuning) 접근법을 능가한다(예: QA 태스크 전반에 걸쳐 평균 정확도 3% 향상, 최고 ITI 기준선(baseline) 대비 55.82%의 승률).

arXiv:2607.08776v1cs.LG

상호작용을 통한 대규모 언어 모델의 지식 증류 해석을 위한 통합적 접근법

A Unified Approach to Interpreting Knowledge Distillation for Large Language Models via Interactions

대규모 언어 모델(LLM)에서 지식 증류(KD)의 성공에도 불구하고, 그 효과를 뒷받침하는 근본적인 메커니즘은 여전히 불분명하다. 본 논문에서 우리는 상호작용을 활용하여 다양한 KD 방법들의 공통 메커니즘을 탐구하는 통합적 접근법을 제안한다. 구체적으로, LLM의 출력 점수를 수많은 상호작용의 합으로 분해한다. 각 상호작용은 입력 변수들의 집합(예: 단어들)을 포함하는 비선형 관계를 나타낸다. 분해된 상호작용을 기반으로, 다양한 KD 방법들의 공통 메커니즘이 상호작용의 희소화(sparsification)임을 발견한다. 즉, 학생 모델은 추론 시 더 적은 수의 상호작용을 유지하면서 나머지 상호작용을 영향력이 없도록 억제한다. 나아가, 서로 다른 KD 방법들 간의 성능 차이는 복잡한 상호작용을 처리하는 능력에서 비롯됨을 발견한다. KD 방법은 일반적으로 학생 모델이 복잡한 상호작용에서 더 높은 희소성을 달성할 수 있도록 할 때 더 나은 성능을 발휘한다. 이러한 통찰에 착안하여, 증류 과정에서 복잡한 상호작용의 희소성을 명시적으로 강화하는 플러그 앤 플레이 손실 함수인 복잡 상호작용 페널티(CIP, Complex Interaction Penalty)를 제안한다. 광범위한 실험을 통해 CIP를 통합하면 도메인 내(in-domain) 및 분포 외(out-of-distribution) 벤치마크 모두에서 다양한 KD 방법의 성능이 일관되게 향상됨을 입증한다.

arXiv:2606.03979v2cs.LG

언어 모델에게 수면이 필요하다: 자기 수정과 기억 통합 학습

Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories

지난 수십 년간 기계학습 알고리즘 설계에서는 초기의 과제별 얕은 모델 연구에서부터 더 범용적인 심층 대규모 언어 모델(LLM)에 이르기까지 괄목할 만한 발전이 있었다. 즉각적인 예측이나 문맥 내 학습(ICL)이 필요한 과제에서 유망한 결과를 보이고 있음에도 불구하고, 기존 모델들은 지속적으로 학습하고 일시적인 문맥 내 지식을 장기 파라미터로 효과적으로 전이하는 능력이 부족하다. 인간의 학습 과정에서 영감을 받아, 우리는 모델이 지속적으로 학습하고, 단기적이고 취약한 기억을 리플레이(replay)를 통해 안정적인 장기 지식으로 증류하며, '드리밍(Dreaming)' 과정을 통해 재귀적으로 스스로를 개선할 수 있게 하는 '수면(Sleep)' 패러다임을 제안한다. 구체적으로, 수면은 두 단계로 구성된다: (1) 기억 통합(Memory Consolidation): 지식 시딩(Knowledge Seeding)이라 불리는 상향식 지식 증류(distillation) 과정으로, 더 작은 자아(smaller-self)의 기억을 더 큰 네트워크로 증류하여 지식을 보존하면서 더 많은 용량을 확보한다. 개념 증명으로, 우리는 지식 시딩을 위한 새로운 일반화 지식 증류 과정(온-정책(on-policy) 증류와 강화학습(RL) 기반 모방 학습의 결합)을 제시한다; (2) 드리밍(Dreaming): 모델이 강화학습을 활용하여 인간의 감독 없이 새로운 지식을 연습하고 기존 능력을 정제하기 위한 합성 데이터 커리큘럼을 생성하는 자기 개선 단계. 장기 수평선(long-horizon), 지속 학습(continual learning), 지식 통합(knowledge incorporation), 퓨샷(few-shot) 일반화 과제에서 수행한 실험들은 수면 단계의 중요성을 뒷받침한다.

arXiv:2607.09560v1cs.AI

고정된 표현을 넘어서: 개방형 AI에서의 어휘 격차와 검증자 격차

Beyond Fixed Representations: The Vocabulary and Verifier Gaps in Open-Ended AI

현대 AI 시스템은 추론, 코딩, 정리 증명, 도구 사용, 장기적 연구 과제 등의 능력을 평가받는 경우가 점점 늘어나고 있다. 이러한 능력들은 강력하지만 구조적 한계를 공유한다. 즉, 모델이 작동하는 표현 프레임—개념적 어휘, 탐색 가능한 허용 해(admissible solution) 공간, 성공 판단 기준—이 사전에 고정되어 제공된다는 점이다. 본 논문은 개방형 혁신(open-ended innovation)이 가능한 더 강력한 지능형 시스템을 구축하기 위해서는 추가적인 연산 방식이 필요하다고 주장한다. 이는 새로운 표현 기본 요소(representational primitives)의 생성, 안정화, 재사용으로, 기존 공간 내에서 단순히 탐색하는 것이 아니라 탐색 공간 자체를 변경하는 것이다. 우리는 현재 AI 시스템과 진정한 개방형 지능 사이의 거리를 두 가지 격차로 특성화한다. 첫 번째는 어휘 격차(vocabulary gap)로, 기존 표현을 단순히 재조합하는 것이 아니라 새로운 표현 기본 요소를 발명하고 안정화하는 어려움이다. 두 번째는 검증자 격차(verifier gap)로, 새로운 기본 요소의 완전한 가치가 미래의 재사용 이후에야 비로소 가시화될 수 있을 때 그 가치를 판단하는 어려움이다. 우리는 두 격차 모두를 지능을 인지적 불일치 감소(cognitive discrepancy reduction)로 보는 통합 프레임워크를 통해 해석한다. 지능적 행동을 인지적 변환의 연쇄로 바라봄으로써, 고정된 표현 프레임 내에서 작동하는 공간 내 변환(intra-space transformation)과 프레임 자체를 수정할 수 있는 생성적 변환(generative transformation)을 구별한다. 이를 바탕으로 혁신 자율성의 사다리(ladder of innovation autonomy)를 제안하고, 유용한 표현적 변화에 보상을 부여하는 목적 함수, 발명된 기본 요소를 위한 영구 메모리 아키텍처, 평가 대상 표현과 함께 진화할 수 있는 적응형 검증 메커니즘 등 개방형 AI를 발전시키기 위한 여러 방향을 제시한다.

arXiv:2607.09493v1cs.AI

에이전틱 LLM 시스템을 위한 공유 선택적 영속 메모리

Shared Selective Persistent Memory for Agentic LLM Systems

멀티턴 도구 사용을 통해 코드를 생성하는 에이전틱 대규모 언어 모델(LLM) 시스템은 근본적인 컨텍스트 문제에 직면한다. 각 세션은 처음부터 시작되어, 이전 세션을 생산적으로 만들었던 설정 선택, 도메인 제약, 데이터 스키마, 도구 사용 패턴이 폐기된다. 전체 대화 이력을 무분별하게 유지하는 방식은 토큰 비효율적이며 역효과를 낳는다. 관련 없는 컨텍스트는 생성 품질을 저하시키기 때문이다. 우리는 공유 선택적 영속 메모리(shared selective persistent memory)를 소개한다. 이는 재사용 가능한 컨텍스트의 네 가지 범주(태스크 명세, 데이터 스키마, 도구 설정, 출력 제약)를 식별하고 유지하면서 세션별 추론 흔적은 폐기하는 아키텍처다. 핵심적으로, 이 메모리는 공유된다. 선택적 메모리를 캡슐화한 워크스페이스는 역할 기반 접근 제어를 통해 사용자 간에 전달될 수 있어, 중복 명세 없이 협업적 재사용이 가능하다. 우리는 이를 LLM 에이전트가 이종 소스(CSV, SQL, REST API, MCP 서버)로부터 git 버전 관리 아티팩트(대시보드, 보고서, 데이터 기반 문서)를 생성·편집·유지하는 배포된 협업 워크스페이스 플랫폼에 구현했다. 보완적인 제로-토큰 데이터 갱신 메커니즘은 생성된 프로그램을 런타임 데이터로부터 분리하여, LLM 재호출 없이 아티팩트 재사용을 가능하게 한다. 세 가지 엔터프라이즈 시나리오에서, 공유 선택적 영속 메모리는 96%의 태스크 완료율을 달성했다(메모리 없이 79%, 전체 이력 사용 시 71%에 비해). 제로-토큰 갱신은 반복 업데이트에서 LLM 재호출을 제거하여(태스크 시간 14배 단축), 요약 기반 생성은 원시 데이터 주입 대비 호출당 토큰 비용을 97배 절감한다. 네 개의 공개 데이터셋에 대한 재현 실험이 일반화 가능성을 확인하며, 제로-토큰 갱신은 12/12 시험에서 성공했다. 특히, 단순한 전체 이력 유지는 에이전트를 오래된 흔적으로 편향시켜 완료율을 오히려 저하시키는 반면, 선택적 메모리는 양 극단을 모두 능가한다.

arXiv:2607.09195v1cs.AI

감사 가능한 AI 과학자를 향하여: LLM 에이전트를 위한 가설 진화 프로토콜

Toward Auditable AI Scientists: A Hypothesis Evolution Protocol for LLM Agents

대규모 언어 모델(LLM) 에이전트는 AI 기반 과학적 발견에서 핵심적인 역할을 담당할 것으로 점점 더 기대되고 있다. 폭넓은 지식, 유연한 추론, 도구 사용 능력을 갖춘 이 에이전트들은 가설을 반복적으로 제안하고, 검증하며, 증거에 비추어 신념을 수정하는 방식으로 과학적 문제를 자율적으로 탐색하고 해결할 잠재력을 지닌다. 그러나 현재의 에이전트에서는 이러한 가설, 검증, 신념 갱신 과정이 비정형 로그 속에 묻혀 있으며, 에이전트나 인간 연구자가 해당 과정을 감사할 수 있는 메커니즘이 존재하지 않는다. 본 논문에서는 가설 생성, 평가, 진화를 명시적이고 감사 가능한 연산으로 제공하는 에이전트 하네스인 가설 진화 프로토콜(HEP, Hypothesis Evolution Protocol)을 제안한다. 재료과학 연구 태스크에서 HEP를 탑재한 에이전트는 계획 기반 에이전트에 결여된 가설-검증-증거-신념 순환을 수행하고, 다양한 연구 질문에 걸쳐 일반화되며, 기반 LLM이 더 유능해질수록 프로토콜을 더욱 충분히 활용한다. 이러한 결과는 과학적 추론을 검사하고 검증하며 그 위에 구축할 수 있는 감사 가능한 AI 과학자를 향한 한 걸음을 나타낸다.

arXiv:2605.28215v2cs.AI

설명은 예측만 하는 것보다 더 어렵다: 문맥 내 학습 시각 분류기로서의 MLLM 개념 기반 설명 평가

Explaining is Harder Than Predicting Alone: Evaluating Concept-based Explanations of MLLMs as ICL Visual Classifiers

문맥 내 학습(ICL)은 멀티모달 대규모 언어 모델(MLLM)이 소수의 레이블된 예시로부터 이미지를 분류할 수 있게 한다. 그러나 이러한 모델들이 제공된 컨텍스트를 어떻게 활용하는지는 여전히 불투명하다. 사고의 연쇄(Chain-of-Thought) 프롬프팅이 널리 사용되고 있지만, 최근 연구들은 이것이 실제 내부 연산을 반영하지 않을 수 있다고 주장한다. 본 논문에서는 기준선 분류부터 기술 논리(Description Logics, DL) 공리 생성에 이르는 형식적 엄밀성이 증가하는 다섯 가지 조건을 사용하여, 퓨샷(few-shot) ICL 환경에서 동결된(frozen) MLLM의 개념 기반 설명 가능성을 체계적으로 평가한다. 독립적인 LLM-as-a-judge 파이프라인을 통해 네 가지 최신 MLLM을 평가한 결과, 설명은 예측만 하는 것보다 실제로 더 어렵다는 것을 입증한다. 놀랍게도, 모델이 형식적으로 구조화된 개념 기반 설명을 생성하도록 강제하면 예측 정확도가 단조롭게 저하되며(93.8%에서 90.1%로), 이는 명시적 추론이 성능을 보편적으로 향상시킨다는 가정에 반한다. 그러나 모델이 클래스 판별적 시각적 특징을 성공적으로 표현할 때, 설명 품질은 올바른 예측과 강한 상관관계를 보인다. 이러한 결과는 MLLM이 시각적 분류에 뛰어난 성능을 보이지만, 형식적이고 기계 검증 가능한 설명 가능성을 위한 특정 인스트럭션 튜닝이 부족함을 시사한다.

arXiv:2511.20297v2cs.AI

BREW를 통한 언어 에이전트 개선: 경험 기반 환경 지식의 부트스트래핑

Improving Language Agents through BREW: Bootstrapping expeRientially-learned Environmental knoWledge

대규모 언어 모델(LLM) 기반 에이전트는 GUI 자동화, 도구 사용, 데이터 조작 등 복잡한 다단계 작업을 수행하는 능력이 점점 향상되고 있으나, 경험으로부터 학습할 수 없다는 한계가 있다: 새로운 세션마다 솔루션을 처음부터 다시 발견해야 한다. 우리는 BREW(Bootstrapping expeRientially-learned Environmental knoWledge)를 소개한다. 이는 에이전트의 과거 상호작용 궤적을 구조화된 검색 가능한 지식 베이스(KB)—무엇을 해야 하는지, 언제 적용되는지, 무엇을 주의해야 하는지를 담은 개념 수준의 절차적 문서인 자연어 레시피—로 증류하는 프레임워크이다. 프로그램 합성의 라이브러리 학습 원리에 기반하여, BREW는 에이전트 메모리를 모듈형의 개념 지역화 문서로 분해하고, KB 구성을 상태 공간 탐색 문제로 형식화한다. 이 공간을 탐색하기 위해, 우리는 병렬적 개념별 탐색 트리 전반에 걸쳐 레시피 정확도와 검색 가능성을 공동으로 최적화하는 보상 기반 알고리즘인 Expand-and-Gather 몬테카를로 트리 탐색(EG-MCTS)을 도입한다. 또한 사후 레이블링(hindsight relabeling)을 적용하여 근접 실패 궤적을 긍정적 시연으로 변환함으로써, 잠재적 에이전트 역량을 재사용 가능한 지식으로 표면화한다. OSWorld, tau^2-Bench, SpreadSheetBench의 세 가지 도메인 기반 벤치마크에서 BREW는 기본 에이전트 대비 작업 성공률 10~20% 향상과 실행 단계 10~15% 감소를 달성하였으며, 메모리 없는 성능 이하로 저하될 수 있는 기존 메모리 증강 기준 모델들을 지속적으로 능가하였다. 결과로 생성된 KB는 검사 가능하고 모듈형이며 확장 가능하여, 에이전트 최적화를 위한 투명하고 제어 가능한 기반을 제공한다.

arXiv:2607.09082v1cs.CV

REBASE: 학습 없는 인컨텍스트 분할을 위한 참조-배경 부분공간 제거

REBASE: Reference-Background Subspace Elimination for Training-Free In-Context Segmentation

학습 없는(training-free) 인컨텍스트 분할(in-context segmentation)은 단일 어노테이션된 참조 이미지로부터 추론 시점에 새로운 객체 카테고리를 도입할 수 있게 하여, 클래스 증분 학습(class-incremental learning)의 재학습 및 메모리 오버헤드를 제거한다. 최근 접근 방식은 의미론적 대응(semantic correspondence)을 위한 비전 파운데이션 모델과 SAM과 같은 프롬프터블(promptable) 분할 네트워크를 결합하여 이를 달성한다. 그러나 이들의 성능은 근본적으로 이미지 간 유사도 맵의 품질에 의해 제한된다. 참조 이미지와 쿼리 이미지 간에 공유되는 문맥적 배경이 비목표 영역의 유사도를 체계적으로 높여 프롬프트 위치 지정을 저하시킨다. 우리는 이러한 허위 문맥적 대응을 명시적으로 억제하는 학습 없는 프레임워크인 REBASE를 제안한다. 본 방법은 참조 이미지에서 저랭크 배경 특징 부분공간을 식별하고, 참조 및 쿼리 특징을 닫힌 형태(closed form)로 그 직교 여공간(orthogonal complement)에 투영하여 더 깔끔한 의미론적 매칭을 도출한다. 이후 정제된 밀집 유사도 사전 정보와 결합된 유사도 가중 최원점 샘플링(farthest-point sampling)을 사용하여 양성 포인트 프롬프트를 생성한다. 어떠한 학습이나 매개변수 업데이트 없이, 본 접근법은 PACO-Part, FSS-1000, ISIC2018과 같은 크로스 도메인 데이터셋에서 학습 없는 방법들 중 새로운 최첨단 성능을 달성하며, 명시적 배경 부분공간 제거가 원샷 위치 지정에 매우 효과적인 원칙임을 입증한다.

arXiv:2607.08399v1cs.CL

활성화 집계를 통한 프롬프트 압축

Prompt Compression via Activation Aggregation

인스트럭션 프롬프트에 담긴 태스크 관련 정보를 단일 활성화(activation) 벡터로 압축한 뒤 LLM 초기 레이어에 재주입하는 프롬프트 압축 프레임워크를 제안하며, 중간 레이어에서 추출한 활성화의 가중합을 학습하는 경량 Weighting MLP(W-MLP)가 전체 프롬프트 처리 대비 정확도 저하 2% 미만으로 태스크 관련 정보를 보존함을 Llama3.1-8B 등 다양한 모델에서 실험적으로 입증했다.

arXiv:2607.08080v1cs.CL

MASTE: 제로샷 속성 감성 삼중항 추출을 위한 멀티 에이전트 파이프라인

MASTE: A Multi-Agent Pipeline for Zero-Shot Aspect Sentiment Triplet Extraction

MASTE는 리뷰 문장에서 (속성, 의견, 감성) 삼중항을 제로샷으로 추출하기 위해, 속성 추출·의견 추출·감성 추론·일관성 검증의 네 전문 에이전트를 순차적으로 조건화하는 멀티 에이전트 파이프라인을 제안한다. 학습 데이터 없이 네 가지 ASTE 벤치마크에서 기존 제로샷 및 사고의 연쇄 기반 LLM 베이스라인을 크게 앞서며 완전 지도학습 방법과의 격차를 좁혔다.

arXiv:2607.02885v2cs.CL

LLM은 CBT 기반 감정 추론에서 어디에 취약한가?

Where do LLMs Fall Short in CBT-Guided Affective Reasoning?

기본 상태의 대규모 언어 모델(LLM)이 인지행동치료(CBT) 이론 지식(면허 시험 96% 정확도)을 갖추고도 실제 대화에서는 상황에 무관하게 검증·반영 패턴으로 수렴하는 문제를 다루며, 사용자 서술을 Beck의 인지 개념화 구조로 분해하고 SNOMED CT 개념으로 근거를 마련한 뒤 다중 사고의 연쇄(MCoT) 전략 선택을 적용하는 지식 유도 프레임워크를 제안한다. 행동 변화 측정을 위한 새로운 지표 Protocol Leverage Force(F)를 도입하여 평가한 결과, MCoT가 단일 Chain-of-Thought 프롬프팅보다 전략 선택을 개선하지만 효과는 1% 이내에 그치며 모든 모델이 여전히 검증·반영 편향을 유지함을 보였다.

arXiv:2607.08032v1cs.LG

무엇을 유지하고 무엇을 버릴 것인가: LLM과 에이전트의 메모리 압축에 대한 율-왜곡 관점

What to Keep, What to Forget: A Rate--Distortion View of Memory Compaction in LLMs and Agents

KV 캐시 압축, 프롬프트 압축, 아키텍처 상태, 에이전트 메모리라는 기존의 네 가지 분리된 연구 영역을 율-왜곡(rate-distortion) 이론 관점에서 하나의 통합된 메모리 압축(memory compaction) 문제로 재정의하고, 7축 분류 체계와 층에 무관한 하한을 통해 서로 간 메커니즘 이전을 가능하게 한다. 또한 모든 층에서 어텐션 크기 기반의 쿼리-비인식(query-agnostic) 압축이 동일한 방식으로 실패한다는 공통 패턴을 밝히고, 에이전트의 반복적 압축을 측정하기 위한 COMPACT-Bench 벤치마크를 제안한다.

arXiv:2607.07847v1cs.LG

지속적 학습은 언제 학습을 필요로 하는가

When Does Continual Learning Require Learning

지속적 학습(continual learning)이 단일 능력이 아님을 주장하며, 공간(도메인 이동)과 시간(사실 드리프트, 에이전트 상태 누적)이라는 두 축으로 환경 변화를 분류하고 프롬프트 최적화(GEPA, ACE), 지도학습(SFT, SDFT), 강화학습(GRPO, SDPO), 컨텍스트 압축(Cartridges, In-place TTT) 등 8가지 방법을 단일 프로토콜로 비교 평가했다. 온라인 강화학습이 지식 업데이트에 가장 효과적으로 적응하는 반면, 프롬프트 기반 방법은 미래 태스크에서 성능이 저하되고 지식 증류 방법은 오래된 사실 갱신에 어려움을 겪는 등 환경 변화 패턴에 따라 적합한 업데이트 방식이 근본적으로 다름을 보였다.

arXiv:2607.07756v1cs.LG

인코더 선택의 중요성: 테이블형-이미지 연구

The Importance of Encoder Choice:A Tabular-Image Study

멀티모달 학습은 일반적으로 각 모달리티별 전용 인코더를 필요로 한다. 테이블형 모달리티가 포함될 경우, 기존 연구들은 대부분 \emph{일반 MLP}를 인코더로 사용해 왔다. 그러나 MLP가 강력한 인코더였다면 테이블형 도메인은 "심층 학습의 마지막 미정복 성채"로 불리지 않았을 것이다. 본 연구는 이미지-테이블형 설정에서 최신 테이블형 모델들을 인코더로 처음으로 평가한다. 이 과정에서 한 가지 장애물이 부각된다. 테이블형 도메인에서 최고 성능 방법 중 하나인 문맥 내 학습(In-Context Learning) 모델은 인스턴스를 처리하기 위해 레이블을 필요로 하므로, 학습 인스턴스와 테스트 인스턴스를 동일한 방식으로 임베딩하는 것이 자명하지 않다. 우리는 이 계열의 여러 모델에 걸쳐 이 문제를 해결하였다. 본 연구를 통해 멀티모달 학습에서 인코더 요인의 중요성을 강조하고자 한다.

arXiv:2603.23571v2cs.LG

StateLinFormer: 내비게이션에서 장기 기억을 강화하는 상태 유지 학습

StateLinFormer: Stateful Training Enhancing Long-term Memory in Navigation

배치 경계마다 메모리 상태를 재초기화하는 기존 학습 방식의 한계를 극복하기 위해, StateLinFormer는 선형 어텐션 기반 내비게이션 모델에 연속된 학습 구간에 걸쳐 순환 메모리 상태를 보존하는 상태 유지(stateful) 학습 패러다임을 도입하였다. MAZE 및 ProcTHOR 환경 실험에서 상태 비유지 선형 어텐션 모델과 고정 컨텍스트 윈도우 트랜스포머 기준 모델을 크게 능가하였으며, 상호작용 길이가 길어질수록 문맥 내 학습(ICL) 능력이 향상됨을 입증하였다.

arXiv:2607.08716v1cs.AI

중요할 때 기억하라: 장기(long-horizon) 에이전트를 위한 능동적 메모리 에이전트

Remember When It Matters: Proactive Memory Agent for Long-Horizon Agents

장기(long-horizon) 태스크 수행 중 의사결정에 필요한 정보가 컨텍스트 윈도우에 묻히거나 밀려나 더 이상 행동에 영향을 미치지 못하는 '행동 상태 소실(behavioral state decay)' 문제를 해결하기 위해, 별도의 메모리 에이전트가 구조화된 메모리 뱅크를 유지하며 필요한 시점에만 선택적으로 리마인더를 주입하는 능동적 개입 아키텍처를 제안한다. Terminal-Bench 2.0과 τ²-Bench에서 각각 +8.3 pp, +6.8 pp의 pass@1 향상을 달성했으며, 수동적 메모리 노출이나 상시 주입 방식보다 선택적 개입이 우월함을 에이블레이션(ablation)으로 확인했다.

arXiv:2607.08393v1cs.AI

대규모 언어 모델 미세조정에서 기억된 지식이 일반화에 실패하는 이유에 대한 메커니즘적 이해를 향하여

Towards Mechanistically Understanding Why Memorized Knowledge Fails to Generalize in Large Language Model Finetuning

LLM 파인튜닝 시 새로운 사실을 기억하더라도 다운스트림 추론에 활용하지 못하는 "앎-사용 격차(Knowing–Using Gap)" 현상을 규명하고, self-patching이라는 개입 기법으로 내부 활성화 위치를 분석한 결과, 기억된 표현이 추론에 유효한 레이어로 라우팅되지 않는 지식-회로 불일치(knowledge–circuit misalignment)가 원인임을 밝혔다. 이를 바탕으로 설계한 휴리스틱 전략은 일반화 실패 사례에서 오라클 성능 여유의 58–75%를 회복하였다.

arXiv:2607.08018v1cs.AI

구체화된 명제 프롬프팅으로 대규모 언어 모델의 구성-지식 이분법 해소

Concretized Proposition Prompting Resolves Composition-Knowledge Dichotomy in Large Language Models

LLM이 구성성(compositionality)과 지식성(knowledgeability) 사이의 균형을 맞추지 못하는 구성-지식 이분법 문제를 해결하기 위해, 질문과 관련된 명제를 참·거짓 및 긍정·부정 네 가지 범주로 명시적으로 구체화하는 Concretized Proposition Prompting(CPP) 프레임워크를 제안한다. CPP는 의료 벤치마크에서 추론 성능을 크게 향상시키고 수학 벤치마크에서도 경쟁력 있는 성능을 보이며, Llama, Qwen, Phi 등 다양한 모델과 7B~72B 규모에서 일관된 성능을 입증했다.