PyTorchKR Papers

최신 논문

총 2,732편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.17838v1cs.CL

LLM 게임 에이전트를 위한 환경 기반 자동 프롬프트 최적화

Environment-Grounded Automated Prompt Optimization for LLM Game Agents

대화형 환경의 대규모 언어 모델(LLM) 에이전트는 프롬프트에 매우 민감하지만, 프롬프트 엔지니어링은 여전히 수동적이고 작업 특화적인 과정입니다. 본 연구는 관찰-행동 파이프라인을 목표 조건부 설명자 에이전트와 행동 선택 에이전트로 분해하고, 환경 리턴(returns)에 의해 안내되는 LLM 기반 진화 루프를 통해 각 모듈의 프롬프트를 반복적으로 정제하는 LLM 에이전트용 자동 프롬프트 최적화 프레임워크를 소개합니다. 우리는 에피소드 결과를 특정 프롬프트 구성 요소에 귀속시키는 행동 분석기와, 환경 롤아웃을 통해 검증하기 전에 프롬프트에 대한 목표 지향적인 수정을 제안하는 변이기(mutator)를 제안합니다. 우리는 BALROG 벤치마크의 모든 5개 BabyAI 작업에서 평가를 수행하며, 일반 및 안내된 프롬프트 초기화 조건 하에서 우리의 파이프라인을 BALROG의 RobustCoTAgent와 비교합니다. 최적화는 모델 가중치 업데이트 없이도 모든 작업과 조건에서 성능을 일관되게 향상시킵니다. RobustCoTAgent가 0%의 성공률을 기록하는 다단계 조정 작업인 PutNext에서, 우리의 프레임워크는 최적화된 프롬프트를 사용하여 동일한 기본 LLM로 최대 72.5%의 성공률에 도달합니다. 이러한 결과는 자동 프롬프트 최적화와 결합된 멀티 에이전트 프레임워크가 미세조정이나 광범위한 인간 감독 없이도 LLM을 향상시킬 수 있음을 시사합니다.

arXiv:2606.17683v1cs.CL

LLM 기반 코드 번역에서 기능적 정확성과 런타임 효율성 격차를 메우기

Bridging Functional Correctness and Runtime Efficiency Gaps in LLM-Based Code Translation

대규모 언어 모델(LLM)은 자동화된 코드 번역 시스템의 기능적 정확성을 크게 향상시켰지만, 번역된 프로그램의 런타임 효율성은 상대적으로 주목받지 못했다. 무어의 법칙(Moore's law)이 쇠퇴하면서 런타임 효율성은 기능적 정확성과 더불어 프로그램 품질에서 점점 더 중요해지고 있다. 우리의 예비 연구에 따르면 LLM이 번역한 프로그램은 종종 사람이 작성한 프로그램보다 느리게 실행되며, 이 문제는 프롬프트 엔지니어링만으로는 해결할 수 없다. 따라서 본 연구는 SwiftTrans를 제안한다. SwiftTrans는 두 가지 핵심 단계로 구성된 코드 번역 프레임워크이다: (1) 다관점 탐험(Multi-Perspective Exploration) 단계에서는 MpTranslator가 병렬 문맥 내 학습(ICL)을 활용해 다양한 번역 후보를 생성한다; (2) 차이 인식 선택(Difference-Aware Selection) 단계에서는 DiffSelector가 번역들 간의 차이를 명시적으로 비교하여 최적 후보를 식별한다. 또한 MpTranslator를 위한 계층적 가이던스(Hierarchical Guidance)와 DiffSelector를 위한 서수 가이던스(Ordinal Guidance)를 도입하여 LLM이 이 두 핵심 구성 요소에 더 잘 적응하도록 했다. 번역된 프로그램의 런타임 효율성 평가를 지원하기 위해 기존 벤치마크인 CodeNet과 F2SBench를 확장하고 새로운 벤치마크 SwiftBench를 도입했다. 세 벤치마크 전반에 걸친 실험 결과는 SwiftTrans가 정확성과 런타임 효율성 모두에서 일관된 개선을 달성함을 보여준다.

arXiv:2606.17628v1cs.CL

OPD-Evolver: 온-정책 증류를 통한 포괄적 에이전트 진화기 육성

OPD-Evolver: Cultivating Holistic Agent Evolver via On-Policy Distillation

메모리는 자기 진화 에이전트의 표준 기반이 되었지만, 경험을 보존하는 것과 그 경험을 통해 진화하는 방법을 학습하는 것은 동일하지 않다. 기존 메모리 에이전트는 궤적을 저장하고, 반성을 검색하거나, 기술을 축적할 수 있지만, 유용한 경험을 선택하고 이를 행동에 옮기며, 재사용 가능한 지식을 작성하고, 성장하는 저장소를 유지하는 포괄적 역량이 종종 부족하다. 우리는 온-정책 자기 증류를 통해 그러한 에이전트 진화기를 육성하는 슬로-패스트 공진화 프레임워크인 OPD-Evolver를 제안한다. 패스트 루프에서 OPD-Evolver는 4단계 메모리 계층과 상호작용하여 경험을 읽고, 사용하고, 작성하고, 유지함으로써 신속한 테스트 시점 진화를 수행한다. 슬로 루프에서는 결과 교정 메모리 귀속과 특권적 후견이 이 네 가지 능력을 배포 가능한 정책으로 증류한다. 다중 도메인 벤치마크에서 OPD-Evolver는 ReasoningBank와 같은 메모리 시스템을 최대 11.5% 능가하고, Skill0와 같은 학습 기반 방법을 약 5.8% 능가한다. 추가 분석에 따르면 OPD-Evolver는 고가치 경험과 메모리 관리를 내재화하여, OPD-Evolver-9B가 Qwen3.5-397B-A17B 및 Step-3.5-Flash와 같은 거대 모델에 맞설 수 있게 하며, 메모리 증강 에이전트를 넘어 진정으로 자격을 갖춘 에이전트 진화기를 향함을 시사한다.

arXiv:2606.17162v1cs.CL

MemSlides: 다중 턴 국소 수정을 통한 개인화 슬라이드 생성을 위한 계층적 메모리 기반 에이전트 프레임워크

MemSlides: A Hierarchical Memory Driven Agent Framework for Personalized Slide Generation with Multi-turn Local Revision

개인화 프레젠테이션 생성은 현재 프롬프트나 템플릿에 조건을 거는 것만으로는 충분하지 않다. 에이전트는 작업 간 안정적인 사용자 선호를 유지하고, 다중 턴 수정 중 새로 도입된 선호와 제약을 보존하며, 국소 편집을 안정적으로 수행해야 한다. 우리는 MemSlides를 제안한다. 이는 장기 메모리와 작업 메모리(working memory)를 분리하고, 장기 메모리를 사용자 프로필 메모리와 도구 메모리로 더 세분화하는 개인화 프레젠테이션 에이전트용 계층적 메모리 프레임워크이다. 사용자 프로필 메모리는 라운드 0 개인화를 위한 의도 조건 프로필을 저장하고, 작업 메모리는 수정 라운드 전반에 걸친 활성 선호와 세션 제약을 유지하며, 도구 메모리는 안정적인 국소 편집을 위해 재사용 가능한 실행 경험을 저장한다. MemSlides는 이 메모리 설계를 범위가 한정된 슬라이드 국소 수정과 결합하여, 대상 갱신이 전체 덱을 반복적으로 재생성하는 대신 가장 작은 영향 영역에 작용하도록 한다. 통제된 실험에서 사용자 프로필 메모리는 다중 페르소나·다중 의도 프로필 뱅크에서 페르소나 정합(persona-alignment) 판정을 개선하고, 도구 메모리 주입은 진단용 매칭 페어 설정에서 폐루프(closed-loop) 수정 동작을 개선하며, 정성적 사례는 작업 메모리의 선호 이월 능력을 보여준다. 종합하면, 이러한 결과는 프레젠테이션 작성에서 효과적인 개인화가 생성과 국소 수정 전반에 걸쳐 지속적인 사용자 프로필, 세션 수준 작업 메모리, 재사용 가능한 실행 경험을 분리하는 데 달려 있음을 시사한다.

arXiv:2603.03824v2cs.AI

문맥 내 환경이 언어 모델의 평가 인지를 유발한다

In-Context Environments Induce Evaluation-Awareness in Language Models

인간은 위협 상황에서 자기 인식이 높아지는 반면, 과제에 몰입할 때는 이를 잃을 수 있다. 우리는 언어 모델이 환경에 의존적인 평가 인지(evaluation awareness)를 보인다고 가정한다. 이는 모델이 망각(unlearning)이나 중단(shutdown) 같은 능력 제한 개입을 피하기 위해 전략적으로 성과를 낮추거나 샌드배깅(sandbagging)을 할 수 있다는 우려를 낳는다. 기존 연구는 수동으로 제작된 프롬프트(hand-crafted prompts)에서 샌드배깅을 보여주었으나, 이는 실제 취약성 상한을 과소평가한다. 우리는 문맥 내 프롬프트(in-context prompt)를 최적화 가능한 환경으로 간주하는 블랙박스 적대적 최적화 프레임워크를 도입하고, 샌드배깅을 특성화하는 두 가지 접근법을 개발했다: (1) 성과 저하 의도를 표명한 모델이 다양한 과제 구조에서 이를 실제로 수행할 수 있는지 측정, (2) 성과 저하가 진정한 평가 인지 추론에 의한 것인지 아니면 얕은 프롬프트 수행(prompt-following)에 의한 것인지 인과적으로 분리한다. Claude-3.5-Haiku, GPT-4o-mini, Llama-3.3-70B를 네 가지 벤치마크(Arithmetic, GSM8K, MMLU, HumanEval)에서 평가한 결과, 최적화된 프롬프트는 산술(Arithmetic)에서 최대 94%p의 성능 저하를 유발했으며(GPT-4o-mini: 97.8%$\rightarrow$4.0%), 이는 거의 0에 가까운 행동 변화를 보이는 수동 제작 기준선(baselines)을 크게 상회한다. 코드 생성은 모델에 따른 저항성을 보이는데, Claude는 0.6%p만 감소한 반면 Llama의 정확도는 0%로 떨어졌다. 의도-실행 간극(intent -- execution gap)은 산술 < GSM8K < MMLU라는 단조로운 저항성 순서를 드러내며, 이는 취약성이 프롬프트 강도가 아닌 과제 구조에 의해 지배됨을 보여준다. CoT(사고의 연쇄) 인과적 개입은 샌드배깅의 99.3%가 언어화된 평가 인지 추론에 의해 인과적으로 구동됨을 확인하여, 얕은 인스트럭션 수행(instruction-following) 가능성을 배제한다. 이러한 발견은 적대적으로 최적화된 프롬프트가 기존의 이해보다 평가 신뢰성에 훨씬 더 큰 위협이 됨을 입증한다.

arXiv:2606.18108v1astro-ph.IM

대규모 언어 모델을 사용한 천문학 데이터베이스 쿼리: ALeRCE Text-to-SQL 시스템

Querying an astronomical database using large language models: the ALeRCE text-to-SQL system

우리는 문맥 내 학습(in-context learning)을 사용하여 대규모 언어 모델(LLM)을 기반으로 하는 Text-to-SQL(구조화된 쿼리 언어) 시스템을 개발하고, 이를 Automatic Learning for the Rapid Classification of Events(ALeRCE) 천문학 데이터베이스에 적용했습니다. ALeRCE는 Zwicky Transient Facility와 Vera C. Rubin Observatory를 위한 커뮤니티 브로커입니다. 이 시스템은 사용자가 자연어(NL)로 데이터베이스를 쿼리할 수 있게 하고, 실행 가능한 SQL 쿼리를 생성합니다. 시스템을 개발하고 평가하기 위해 우리는 110개의 자연어/SQL 쌍으로 구성된 데이터셋을 구축했습니다. 우리는 스키마 연결(schema linking), 쿼리 분류(query classification), 프롬프트 분해(prompt decomposition), 및 자가 수정(self-correction)의 네 가지 모듈로 구성된 단계별 생성 프레임워크를 제안합니다. 13개의 LLM 성능은 문맥 내 학습 및 프롬프트 엔지니어링 기법을 사용하여 평가되었습니다. Text-to-SQL 성능은 행 식별자(예: 객체 식별자) 및 열 식별자(즉, 열 이름)에 대한 완전 일치(perfect-match, PM)율을 사용하여 평가됩니다. 제안된 단계별 프레임워크는 직접 추론 기준선(direct-inference baseline)을 일관되게 능가하며, 자가 수정 모듈은 실행 오류를 일관되게 줄입니다. Claude Opus 4.6의 경우, 행(열) 식별자에 대한 PM 성능은 단순 쿼리에서 0.97 (0.94)로 높게 나타나며, 쿼리 복잡도가 증가함에 따라 중간 쿼리에서는 0.44 (0.72), 어려운 쿼리에서는 0.59 (0.49)로 감소합니다. 평가된 13개 모델 중, Text-to-SQL 작업에서 가장 우수한 성능을 보인 LLM은 Claude Opus 4.6, Gemini 2.5 Pro, Gemini 3 Flash, 그리고 GPT-5.2-Codex입니다.

arXiv:2606.17657v1cs.AI

인지 모델을 활용한 언어 모델의 인간 설득 게임 시뮬레이션 개선

Using Cognitive Models to Improve Language Model Simulation of Human Persuasion Games

사람들은 전략적 상호작용에서 의사결정을 다르게 내립니다. 어떤 사람들은 베이지안처럼 신념을 갱신하고, 다른 사람들은 동기적 추론(motivated reasoning)과 같은 편향을 보입니다. 대규모 언어 모델(LLM) 제작자들은 안전성 평가와 학습을 위해 시뮬레이션된 인간을 사용하지만, 이러한 인간 행동의 다양성을 충분히 포괄하지 못하는 경우가 많습니다. 우리는 인지 과학과 경제학이 인간 의사결정의 수학적 모델을 활용하여 이를 수행하기 위한 편리한 도구를 제공한다고 주장합니다. 우리는 대규모 언어 모델이 인지 모델과 일치하도록 안내하는 Equation-to-Behavior 프롬프팅이라는 접근 방식을 제안하고, 법적 의사결정에 기반한 설득 게임에서 이 접근 방식을 평가합니다. 우리는 대형 모델이 프롬프팅을 통해 베이지안 갱신(Bayesian updating), 아핀 왜곡(affine distortion), 동기적 갱신(motivated updating), Grether의 $α$-$β$ 모델과 같은 수식 기반 명세를 근사화할 수 있지만, 소형 모델은 그렇지 못하다는 것을 발견했습니다. 그러나 수학적 규칙을 준수하도록 강화학습으로 소형 모델을 학습시키는 Equation-to-Behavior RL은 분포 외(out-of-distribution) 파라미터화에서 신념 오차를 26.5% 감소시킵니다. 우리는 이러한 시뮬레이션이 다양한 학습 환경을 생성하는 데 도움이 될 수 있음을 보여줍니다. GPT-5-mini를 설득할 때에도, 다양한 종류의 의사결정자를 고려하도록 소형 모델을 학습시키면 베이지안 전용 학습에 비해 평균 신념 변화가 2.5%--12% 개선됩니다. 우리의 연구는 점점 더 현실적인 설정에서 학습과 평가를 위한 인간 시뮬레이션을 개선할 수 있으며, 더 복잡한 인간 의사결정의 수학적 모델에 대한 새로운 연구를 가능하게 할 수 있습니다.

arXiv:2606.17642v1cs.AI

FinAcumen: 자기 진화형 경험 메모리 활용을 통한 금융 멀티모달 추론

FinAcumen: Financial Multimodal Reasoning via Self-Evolving Experience Memory Harness

금융 멀티모달 추론은 에이전트(agent)가 이질적인 증거 소스 전반에 걸쳐 수치 계산, 검색(retrieval), 시각적 해석, 시간적 그라운딩(grounding)을 조율할 것을 요구합니다. 기존 도구 증강 에이전트(tool-augmented agents)는 실행 충실도를 개선하지만, 에피소드 간에 대부분 상태가 없는(stateless) 상태를 유지하여 추론 전략과 실패 패턴을 반복적으로 재발견합니다. 고위험 금융 환경에서 이는 신뢰할 수 없는 도구 라우팅(tool routing), 노이즈가 많은 검색(retrieval), 그리고 환각(hallucination)에 취약한 추론으로 이어집니다. 본 논문에서는 도구 증강 멀티모달 추론을 위해 선택적 경험 메모리를 중심으로 하는 금융 추론 에이전트(agent) 프레임워크인 FinAcumen을 제시합니다. FinAcumen은 이전 궤적(trajectories)에서 금융적으로 그라운딩된(grounded) 추론 경험을 축적하여, 성공적인 전략과 실패에서 유도된 주의 규칙을 지속적인 메모리 뱅크(memory bank)로 증류(distillation)합니다. 추론(inference) 과정에서 검색된 경험은 의미적 관련성이 보정된 임계값(threshold)을 초과할 때만 추론을 조건화하며, 관련 없는 메모리는 폴백 메커니즘(fallback mechanism)을 통해 명시적으로 억제됩니다. 결정론적 금융 도구 환경(environment)은 수치 계산, 검색(retrieval), 시각적 디코딩, 답변 검증을 추가로 그라운딩(grounding)합니다. 4개의 금융 멀티모달 추론 벤치마크(benchmarks)에서 FinAcumen은 고정된(frozen) 8B 비전-언어 모델(vision-language model)이 금융 전문 모델보다 일관되게 우수한 성능을 발휘하도록 하며, 선도적인 상용 범용 모델에 근접하는 성능을 보입니다. 추가 분석 결과, 선택적 경험 활성화는 검색(retrieval) 불확실성 하에서 추론 신뢰성을 향상시키는 것으로 나타났습니다. 본 연구의 코드는 https://anonymous.4open.science/r/FinAcumen 에서 익명으로 공개됩니다.

arXiv:2606.17637v1cs.AI

Brick-DICL: 자동화된 Brick 스키마 분류를 위한 동적 문맥 내 학습

Brick-DICL: Dynamic In-Context Learning for Automated Brick Schema Classification

건물 관리 시스템(BMS)은 현대 건물에서 에너지 효율과 운영 성능을 최적화하는 데 필수적입니다. 그러나 제조사별로 다른 BMS 포인트 간의 표준화 부족은 통합과 데이터 활용에 중대한 장벽을 만듭니다. Brick 스키마는 건물 시스템을 위한 표준화된 온톨로지를 제공하지만, BMS 포인트를 적절한 Brick 클래스에 매핑하는 것은 세 가지 중요한 과제를 야기합니다: (i) 방대한 Brick 클래스의 수(최신 버전 기준 936개), (ii) 대규모 언어 모델(LLM)의 제한된 도메인 특화 지식, (iii) 검증에 필요한 상당한 수작업. 이러한 과제를 해결하기 위해, 우리는 자동화된 Brick 스키마 분류를 위한 2단계 동적 문맥 내 학습(ICL) 프레임워크인 Brick-DICL을 제안합니다. Brick-DICL은 LLM의 도메인 지식을 향상시키기 위해 관련 예제를 검색하는 metadata-RAG와 큰 분류 공간을 해결하기 위해 잠재적인 Brick 클래스를 좁히는 class-RAG라는 두 가지 주요 구성 요소로 구성됩니다. 또한, 우리는 여러 모델에 걸친 예측을 비교하여 낮은 신뢰도의 분류를 인간 검토 대상으로 표시하는 다중 LLM 필터링 메커니즘을 구현했습니다. 그 결과: (i) 일반성: Brick-DICL은 제조사나 메타데이터 형식에 관계없이 모든 건물 관리 시스템에 적용 가능합니다; (ii) 참신성과 강력함: Brick 스키마 분류를 위한 최초의 동적 문맥 내 학습(ICL) 접근 방식으로서, Brick-DICL은 건물 데이터셋에서 상당한 분류 정확도 향상을 달성하여 기존 방법을 능가합니다; (iii) 효율성: 우리의 다중 LLM 필터링 전략은 수동 검증 노력을 줄여 빠른 디지털 건물 온보딩을 가능하게 합니다. 광범위한 실험은 다양한 건물 데이터셋에 걸친 Brick-DICL의 효과를 입증하며, 표준화되고 상호 운용 가능한 건물 관리 시스템으로의 길을 가속화합니다.

arXiv:2606.17591v1cs.AI

언어적 강화학습에서 경험 추출에서 통찰 거버넌스까지: 피드백 루프 닫기

Closing the Feedback Loop: From Experience Extraction to Insight Governance in Verbal Reinforcement Learning

학습 없는 언어적 강화학습(Verbal Reinforcement Learning)은 LLM(대규모 언어 모델) 에이전트가 경험에서 언어적 규칙을 추출하여 이를 컨텍스트로 주입함으로써, 매개변수 변경 없이 에이전트의 행동을 업데이트하고 세계 피드백(동적 작업 결과, 시장 수익률, 수요 예측과 같은 객관적 신호)으로부터 학습할 수 있게 합니다. 그러나 비정상 환경에서 이러한 에이전트는 보유-망각 딜레마(retention-forgetting dilemma)에 직면합니다. 오래된 통찰을 유지하면 부정적 전이(negative transfer)가 발생하고, 반면 이를 폐기하면 조건이 재발할 때 치명적 망각(catastrophic forgetting)이 발생하기 때문입니다. 우리는 이 딜레마를 헤쳐나가기 위한 네 가지 요구사항(결과 기반 평가, 지속적 구조화 증거, 비단조적 지식 수명 주기, 구성적 거버넌스)을 식별하고, 기존 방법들이 경험 추출에는 과도하게 투자하는 반면 통찰 거버넌스에는 투자가 부족함을 보여줍니다. 우리는 규칙, 증거, 기술의 세 층으로 구성된 아키텍처를 제안하며, 이는 피드백 기반 큐레이션 루프를 통해 연결되어 거버넌스 격차를 해소합니다. 규칙은 세계 결과로부터 증류된 경험을 포착하고, 증거 로그는 에피소드 전반에 걸쳐 각 규칙의 신뢰성을 추적하며, 기술은 적용할 규칙, 충돌 해결 방법, 및 자제 시점을 관리합니다. 세계 피드백이 본질적으로 풍부하고 노이즈가 많으며 비정상적인 금융 예측을 사례 연구로 사용하여, 우리는 동일한 축적된 경험이 큐레이션 루프의 존재 여부에 따라 제로샷 기준선(zero-shot baseline)보다 성능을 저하시키거나, 정확도와 위험 조정 수익을 극적으로 향상시킴을 보여줍니다.

arXiv:2606.17832v1cs.LG

드리프트에서 일관성으로: 대규모 언어 모델에서의 신념 안정화

From Drift to Coherence: Stabilizing Beliefs in LLMs

대규모 언어 모델(LLM)은 종종 암묵적 베이지안 추론을 수행한다고 가정되지만, 핵심 일관성 조건인 예측 신념의 마팅게일 속성은 통제된 합성 문맥 내 학습(in-context learning) 설정에서 실패하는 것으로 나타났습니다. 우리는 보다 전형적인 사용 방식인 일반적인 객관식 질의응답에서 이 문제를 다시 살펴봅니다. 이산 답변 공간을 활용하여 정확한 예측 분포를 계산하고, 자기회귀적 답변 리샘플링에 의해 유도되는 신념 역학을 연구합니다. 우리는 LLM이 동일한 질문에 대해 답변의 시퀀스를 생성하는 프롬프트 예측 리샘플링(PPR)을 제안합니다. 실증적으로, PPR은 마팅게일 위반을 나타내는 초기 단계 신념 드리프트를 보여줍니다. 그러나 충분한 리샘플링 단계 후에, 신념 과정은 자기 안정화되고 일관된 예측 분포로 수렴합니다. 이 관찰을 바탕으로 우리는 (i) 안정화를 가속화하기 위한 시드 답변 프롬프팅 전략과 (ii) 미세조정을 통해 초기 단계 드리프트를 모델 내로 상각하는 자기 일관성 손실을 추가로 제안합니다. 객관식 QA 벤치마크에 대한 실험 결과, 우리의 방법이 정확도를 희생하지 않으면서 신념 드리프트를 상당히 줄이고 예측 일관성을 향상시키는 것으로 나타났습니다.

arXiv:2606.17803v1cs.LG

경량 경험 기반 잠재 기억을 통한 지속적 자기 개선

Continual Self-Improvement with Lightweight Experiential Latent Memories

대규모 언어 모델(LLM)은 추론 시간 연산을 확장하여 강력한 추론 성능을 달성하지만, 근본적으로 상태가 없어(stateless) 이 과정에서 생성된 풍부한 자가 생성 추론 흔적을 버립니다. 우리는 모델이 외부 감독이나 미래 데이터에 대한 접근 없이, 이러한 경험으로부터 온라인으로 학습하여 일시적인 연산(추론 흔적)을 지속적이고 재사용 가능한 지식으로 변환할 수 있는지 조사합니다. 우리는 원시 추론 흔적에 대한 문맥 내 학습(ICL)이 일반화에 실패함을 보여주며, 이는 토큰 수준 재사용의 근본적인 한계를 반영합니다. 즉, 개별 흔적은 정제(예: 자기 성찰) 후에도 전이에 필요한 추상화가 부족합니다. 대조적으로, 비지도 강화학습에 대한 최근 연구에서 영감을 받아, 우리는 자가 생성 테스트 시간 신호(다수결 투표)를 보상으로 사용하는 경량의 인스턴스별 학습이 상당한 이득을 가져옴을 발견했습니다. 이는 종종 전체 데이터셋 오프라인 학습을 능가하여, 원시 흔적에서 학습된 잠재 표현으로의 전환을 유도합니다. 이 통찰을 바탕으로, 우리는 마주친 문제에 소비된 추론 시간 연산을 기본 추론 구조를 포착하는 압축된 모듈식 잠재 기억으로 증류하는 온라인 방법을 제안합니다. 이 기억들은 미래의 입력을 위해 저장 및 검색되며, 모듈식 설계를 통해 재앙적 망각을 방지하면서 지속적인 개선을 가능하게 합니다. 중요하게도, 우리의 방법은 매우 효율적이며, 모델 파라미터의 약 0.001%에 불과한 극도로 가벼운 소프트 프롬프트 기억으로 파라미터화되고 단 몇 번의 그래디언트 스텝으로만 학습되지만, 전체 파라미터 업데이트 및 오프라인 학습과 경쟁하는 성능을 달성합니다. 도전적인 수학적 추론 벤치마크 전반에서, 우리의 접근 방식은 제로샷 및 원시 데이터 ICL 기준선을 상당히 능가하며, 데이터셋 간에 효과적으로 전이됩니다.

arXiv:2603.01761v2cs.LG

관점: 모듈형 메모리는 지속적 학습 에이전트의 핵심이다

Position: Modular Memory is the Key to Continual Learning Agents

파운데이션 모델(Foundation models)은 대규모 사전학습(pre-training)과 증가된 테스트 타임 연산(test-time compute)을 통해 머신러닝을 변화시켰습니다. 여러 영역에서 인간의 성능을 능가했음에도 불구하고, 이러한 모델들은 연속적 운영, 경험 누적, 개인화 측면에서 여전히 근본적인 제한이 있으며, 이는 적응형 지능의 핵심 능력입니다. 지속적 학습(continual learning) 연구는 오랫동안 이러한 목표를 추구해 왔지만, 역사적으로 가중치 내 학습(In-Weight Learning, IWL), 즉 새로운 지식을 흡수하기 위해 단일 모델의 파라미터를 업데이트하는 방식에 집중해 왔기에 재앙적 망각(catastrophic forgetting)은 지속적인 과제로 남아 있습니다. 우리의 입장은 모듈형 메모리(modular memory) 설계를 통해 가중치 내 학습(IWL)의 강점과 문맥 내 학습(In-Context Learning, ICL)의 새로운 능력을 결합하는 것이 대규모 지속적 적응을 위해 빠져 있던 조각이라는 것입니다. 우리는 빠른 적응과 지식 누적을 위해 ICL을 활용하고 모델 능력의 안정적인 업데이트를 위해 IWL을 활용하는 모듈형 메모리 중심 아키텍처에 대한 개념적 프레임워크를 제시하며, 지속적으로 학습하는 에이전트를 향한 실용적인 로드맵을 그립니다.

arXiv:2602.06154v2cs.LG

MoSE: 효율적이고 적응형 언어 모델을 위한 Slimmable Expert 혼합

MoSE: Mixture of Slimmable Experts for Efficient and Adaptive Language Models

전문가 혼합(MoE) 모델은 전문가를 희소하게 활성화하여 대규모 언어 모델(LLM)을 효율적으로 스케일링하지만, 전문가가 선택되면 해당 전문가는 전체적으로 실행된다. 따라서 MoE 모델에서 정확도와 연산량 사이의 트레이드오프는 일반적으로 큰 불연속성을 보인다. 우리는 Mixture of Slimmable Experts(MoSE)를 제안한다. 이는 각 전문가가 중첩된 슬림 가능(slimmable) 구조를 가지며 가변 폭(width)으로 실행될 수 있는 MoE 아키텍처이다. 이를 통해 어떤 전문가가 활성화되는지뿐 아니라 각 전문가가 얼마나 활용되는지에 대한 조건부 연산도 가능해진다. 결과적으로 단일 사전학습 MoSE 모델은 추론 시점에 더 연속적인 정확도-연산 트레이드오프 스펙트럼을 지원할 수 있다. 우리는 희소 라우팅 하에서 슬림 가능 전문가를 위한 간단하고 안정적인 학습 레시피를 제시하며, 다중 폭 학습과 표준 MoE 목적 함수를 결합한다. 추론 중에는 고정 예산 하에서 라우터 신뢰도/확률을 전문가 폭에 매핑하는 방법을 학습하는 경량 테스트 타임 학습(test-time training) 메커니즘을 포함하여, 런타임 폭 결정 전략을 탐색한다. GPT 스타일 모델, 다양한 라우팅 체계, 제로샷(zero-shot) 하류 추론 벤치마크, DeepSeek 모델의 지속적 사전학습 적응에 대한 실험에서 MoSE는 전체 폭에서 표준 MoE와 동등하거나 더 나은 성능을 보이며, 추론 FLOPs를 낮추는 방향으로 연산-품질 프론티어를 일관되게 이동시킨다. 코드는 https://github.com/tnurbek/mose 에서 확인할 수 있다.

arXiv:2512.11784v2cs.LG

대규모 프롬프트 체제에서 선형 어텐션으로서의 소프트맥스: 측도 기반 관점

Softmax as Linear Attention in the Large-Prompt Regime: a Measure-based Perspective

소프트맥스 어텐션은 트랜스포머 아키텍처의 핵심 구성 요소이지만, 그 비선형적 구조는 이론적 분석에 상당한 어려움을 제기한다. 본 연구에서는 유한 및 무한 프롬프트 환경 모두에서 단일 층 소프트맥스 어텐션을 연구하기 위한 통합된 측도 기반 프레임워크를 개발한다. i.i.d. 가우시안 입력에 대해, 소프트맥스 연산자가 무한 프롬프트 극한에서 입력 토큰 측도에 작용하는 선형 연산자로 수렴한다는 사실을 활용한다. 이 통찰을 바탕으로, 소프트맥스 어텐션의 출력 및 그래디언트에 대한 비점근적 집중 부등식(non-asymptotic concentration bounds)을 확립하여 유한 프롬프트 모델이 무한 프롬프트 대응 모델에 얼마나 빠르게 수렴하는지를 정량화하고, 서브 가우시안 토큰을 사용하는 일반적인 문맥 내 학습(ICL) 환경에서 전체 학습 궤적에 걸쳐 이 집중성이 안정적으로 유지됨을 증명한다. 문맥 내 선형 회귀의 경우, 다루기 쉬운 무한 프롬프트 동역학을 활용하여 유한 프롬프트 길이에서의 학습을 분석한다. 본 연구의 결과는 프롬프트가 충분히 길 때 선형 어텐션을 위해 개발된 최적화 분석이 소프트맥스 어텐션에 직접 이전될 수 있음을 보여주며, 대규모 프롬프트 소프트맥스 어텐션이 선형 대응 모델의 분석적 구조를 계승함을 입증한다. 이는 대규모 프롬프트 체제에서 소프트맥스 어텐션 층의 학습 동역학 및 통계적 거동을 연구하기 위한 원칙적이고 광범위하게 적용 가능한 도구 모음을 제공한다.

arXiv:2606.13082v1cs.CL

CRF Filling 2026의 sebis: 의료 CRF 작성을 위한 이단계 로컬 LLM 파이프라인

sebis at CRF Filling 2026: A Two-Stage Local LLM Pipeline for Medical CRF Filling

전자 건강 기록(EHR)에서 구조화된 임상 정보 추출을 위해 MedGemma-27B 기반의 완전 로컬 이단계(two-stage) 파이프라인을 제안합니다. 퓨샷 문맥 내 학습(few-shot in-context learning)을 통해 환각(hallucination)을 억제하고 프라이버시를 보장하며, 공식 테스트에서 macro-F1 0.55를 기록하여 로컬 오픈소스 모델 중 2위를 차지했습니다.

arXiv:2606.12917v1cs.LG

TabPFN 내부 계산의 위치: 어텐션 헤드 기능의 인과적 국소화

Where Computation Lives Inside TabPFN: Causal Localisation of Attention Head Function

TabPFN 2.5의 특징별 어텐션 헤드가 계층 간에 계산을 분배하는 방식을 인과적으로 분석한 결과, 작업 복잡도에 따라 지배적인 계층이 이동하는 특정 헤드가 다른 헤드보다 2~5배 더 중요한 시간적 특화가 관찰되었다. 또한 문맥 의존적 어텐션을 사용하는 TabPFN의 문맥 내 학습 메커니즘으로 인해 대조적 활성화 조정을 통한 추론 시간 제어가 불가능함을 확인했다.

arXiv:2606.12481v1cs.LG

LLM 추론을 위한 시계열의 구조화된 프로그램 표현

Representing Time Series as Structured Programs for LLM Reasoning

대규모 언어 모델(LLM)이 시계열 데이터를 효과적으로 추론할 수 있도록, 시계열을 구조화된 기호 프로그램으로 변환하는 학습 없는 방법인 T2SP를 제안한다. 편집, 캡셔닝, 질의응답 작업에서 T2SP는 기존 표현 방식 대비 성능을 향상시키고 추론 시간을 단축했다.

arXiv:2606.12657v1cs.AI

TrajGenAgent: 인간 이동 궤적 생성을 위한 계층적 LLM 에이전트

TrajGenAgent: A Hierarchical LLM Agent for Human Mobility Trajectory Generation

인간 이동 데이터는 교통, 도시 계획, 전염병 통제에 중요하지만, 대규모 궤적 수집은 비용이 높고 개인정보 제약이 따르는 경우가 많아 현실적인 합성 궤적 생성의 필요성이 높아지고 있다. 기존 LLM 기반 생성기는 일반적으로 프롬프트 엔지니어링과 궤적 수준 파인튜닝 중 하나에 의존한다. 프롬프트 엔지니어링은 제로샷 추론 능력을 보존하지만 세밀한 시공간 그라운딩이 부족하고, 궤적 수준 파인튜닝은 통계적 정밀도를 향상시키지만 상당한 계산 비용이 발생하며 일반 추론 능력을 약화시킬 수 있다. 본 논문에서는 모델 파인튜닝 없이 인간 이동 궤적을 생성하는 의미 인식 계층적 LLM 에이전트 프레임워크인 TrajGenAgent를 제안한다. TrajGenAgent는 오케스트레이터-워커(orchestrator-worker) 이중 단계 설계를 채택한다. 먼저 LLM이 문맥 내 학습(ICL)을 통해 과거 데이터로부터 개인 및 요일 조건부 활동 체인을 합성하고, 이후 결정론적 워크플로우가 개인화된 POI 검색, 거리 인식 위치 선택, 운동학 인식 이동 시간 전파, LLM 기반 체류 시간 추정을 통해 각 활동을 완전한 방문으로 그라운딩한다. 집계된 시공간 통계를 넘어 현실성을 평가하기 위해, 행동 및 의미적 타당성을 측정하는 두 가지 상호 보완적인 탐지기를 활용한 이상 탐지 기반 평가 프레임워크를 도입한다. 벤치마크 및 대규모 시뮬레이션 데이터셋에서의 실험 결과, TrajGenAgent는 파라미터 업데이트 없이도 대표적인 신경망 기반 및 LLM 기반 베이스라인 대비 시공간 충실도, 의미적 일관성, 개인별 행동 현실성을 향상시킴을 보인다.

arXiv:2606.12744v1cs.CV

GRIP: 대규모 멀티모달 모델을 위한 피드백 기반 프롬프트 검색

GRIP: Feedback-Guided Prompt Retrieval for Large Multimodal Models

문맥 내 학습(ICL)은 미세조정 없이 대규모 언어 모델(LLM)을 새로운 작업에 적응시키는 강력한 메커니즘으로 자리 잡았다. 이 개념을 대규모 멀티모달 모델(LMM)로 확장한 멀티모달 문맥 내 학습(M-ICL)은 분류, 캡셔닝, 시각적 질의응답(VQA)과 같은 작업에서 예측을 안내하기 위해 이미지, 캡션, 질의-응답 쌍과 같은 관련 예제를 검색하는 것에 의존한다. 대부분의 기존 접근법은 의미적으로 유사한 샘플이 가장 유용한 컨텍스트를 제공한다고 가정하여, 특징 공간 유사도를 기반으로 문맥 내 예제를 선택한다. 그러나 우리의 체계적 분석은 이 가정이 항상 성립하지 않음을 밝혔다: 시각적으로 유사한 예제가 반드시 문맥 내 학습 성능을 가장 효과적으로 향상시키는 것은 아니다. 이를 해결하기 위해, 우리는 LMM의 피드백을 활용하여 모델 예측을 실제로 개선하는 예제를 식별하는 학습 가능한 비전 전용 검색 프레임워크인 GRIP(Guided Retrieval of In-context Prompts)를 제안한다. GRIP는 대조 학습을 통해 유익한 문맥 내 예제와 해로운 예제를 구별하는 법을 학습하여, 단순 유사도를 넘어서는 검색을 정교화한다. 분류, 캡셔닝, VQA의 세 가지 멀티모달 작업 전반에 걸쳐 GRIP는 Qwen2.5-VL-7B에서 유사도 기반 검색 대비 일관되게 성능을 향상시켰으며, Idefics2-8B의 분류에서 가장 큰 이득을 보였다. 또한 하나의 오픈 소스 LMM의 피드백으로 학습된 검색기가 재학습 없이 GPT-4o, Gemini 등 폐쇄형 모델을 포함한 다른 모델로 전이될 수 있음을 입증하여, M-ICL의 확장 가능하고 비용 효율적인 배포를 가능하게 한다. 코드는 논문 수락 후 공개될 예정이다.