PyTorchKR Papers

최신 논문

총 11,108편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.11141v1cs.AI

NextFund: 에이전트 기반 포트폴리오 관리를 위한 통합 성과 추적 플랫폼

NextFund: A Unified Performance Tracking Platform for Agentic Portfolio Management

대규모 언어 모델(LLM) 기반 에이전트가 포트폴리오 구성 및 시장 분석에 참여하기 시작하고 있으며, 이 영역에서는 진화하는 정보와 리스크 제약 하에 의사결정의 근거를 제시해야 한다. 그러나 현행 평가 관행은 이러한 환경과 잘 맞지 않는다. 많은 연구들이 정적인 검토에 의존하거나 최종 포트폴리오 수익률만을 보고하는 반면, 그 수익률을 산출한 중간 근거, 애널리스트 판단, 실행 단계는 대부분 불투명한 채로 남아 있다. 우리는 실시간 시장 조건 하에서 금융 에이전트의 행동을 관측 가능하게 만드는 평가 플랫폼 NextFund를 소개한다. 이 플랫폼은 시간 일관성 있는 시장 접근, 조율된 멀티 에이전트 분석, 그리고 관측에서 거래까지 전체 의사결정 경로의 지속적 로깅을 결합한다. 인터랙티브 Trading Arena를 통해 사용자는 여러 시장에 걸쳐 모델을 비교하고, 자산 곡선을 검토하며, 리더보드 결과에서 개별 근거까지 세부적으로 탐색할 수 있다. 우리는 홍콩, 미국, 중국 A주 주식시장을 대상으로 NextFund를 시연하며, 검사 가능한 의사결정 이력이 어떻게 더 공정한 벤치마킹과 실질적인 진단을 가능하게 하는지 보여준다. 데모는 https://paradoox.cn/nextfund/ 에서 확인할 수 있다.

arXiv:2607.11138v1cs.AI

스택 기반 실행과 지연 탐색을 활용한 에이전트 오케스트레이션의 공식 계층 아키텍처

A Formal Hierarchical Architecture for Agentic Orchestration with Stack-Based Execution and Lazy Discovery

대규모 언어 모델(LLM) 에이전트의 급격한 기능 확장은 핵심적인 아키텍처 병목 현상을 드러냈다. 에이전트가 단층적(flat)이고 모놀리식한 도구 레지스트리에 접근할 경우, 모델은 수백에서 수천 개의 옵션을 동시에 평가해야 한다. 이는 결정 공간 폭발(decision-space explosion), 컨텍스트 윈도우 포화, 라우팅 정확도 저하로 이어진다. 이러한 한계를 해결하기 위해 본 논문은 에이전트 오케스트레이션을 위한 계층적 스킬 기반 아키텍처를 제안한다. 기능(capability)은 루트 트리 구조로 구성되며, 내부 노드는 라우팅 결정을 수행하고 리프 노드는 결정론적 작업을 실행한다. 런타임은 후입선출(LIFO) 스택에 의해 제어되는 단일 단계 실행 루프를 강제하여, 에이전트에게 푸시다운 오토마타(Pushdown Automaton)와 유사한 메모리 형태를 부여한다. 이를 통해 중첩된 실행 컨텍스트를 추적하고 임의의 깊이에서 결정론적으로 재개할 수 있다. 기능 탐색은 매니페스트 기반 지연 로딩(lazy-loading) 프로토콜을 따르며, 활성 노드의 직계 자식만 로드되므로 메모리와 프롬프트 비용이 전역 레지스트리가 아닌 탐색된 경로에 비례하여 증가한다. 전역 메모리를 지역화된 스택 프레임으로 대체함으로써, 한 실행 브랜치의 출력이 다른 브랜치로 누출되는 것을 방지하고 규제된 엔터프라이즈 환경 배포에 필요한 격리 보장을 제공한다. 또한 동기를 부여하는 실제 배포 사례로 AI 기반 디지털 결제 지원 제품인 UPI Help를 소개한다. 본 논문은 오케스트레이션 상태에 대한 수학적 형식화, 실행 루프의 상세한 알고리즘 분석, 그리고 증가하는 도구 카탈로그, 다단계 워크플로 부하, LLM 호출당 노출 스키마-토큰 수 조건에서 단층 라우팅과 계층 라우팅을 비교하는 통제된 벤치마크를 제공한다.

arXiv:2607.11089v1cs.AI

OS-Pruner: 최적 정지를 통한 추론 모델의 사고의 연쇄 가지치기

OS-Pruner: Pruning Chains-of-Thought of Reasoning Models via Optimal Stopping

대규모 언어 모델(LLM)은 사고의 연쇄(CoT) 프롬프팅을 통해 복잡한 추론 과제에서 놀라운 성과를 달성했다. 그러나 이러한 모델들은 종종 "계산적 과잉 사고(computational overthinking)"를 나타내며, 정확도를 향상시키지 못하면서 지연 시간과 비용만 증가시키는 불필요한 추론 단계를 생성한다. 최근 연구들은 CoT 궤적을 상당히 가지치기할 수 있음을 시사하지만, 기존 방법들은 정적인 사고 예산 강제, 휴리스틱 필터링, 분류를 통한 차선적 조기 종료, 또는 비용이 많이 드는 재학습에 의존하는 경우가 많다. 본 논문에서는 사고의 연쇄 가지치기를 최적 정지(optimal stopping) 문제로 정식화하는 경량 플러그인 프레임워크인 OS-Pruner를 소개한다. 주어진 추론 접두 문맥에 대해, OS-Pruner는 최종 답변 정확도와 생성 길이 간의 균형을 맞추는 명시적 유틸리티를 최적화함으로써 추가 추론이 토큰 비용만큼의 가치가 있는지를 학습한다. 본 논문의 새로운 정식화는 모델이 추론 체인의 충분한 종료 시점을 동적으로 평가할 수 있게 한다. OS-Pruner는 학습 및 추론 모두에서 경량으로 설계되었으며, 사용자에게 추론 노력 대 정확도 트레이드오프에 대한 세밀한 제어를 제공한다. 다양한 추론 벤치마크와 기반 모델에서 OS-Pruner는 최소한의 정확도 손실로 생성 길이를 20~60% 감소시킨다.

arXiv:2607.11079v1cs.AI

LLM은 과학적 발견을 위한 준비가 되었는가? AI 과학자를 위한 능력 중심 벤치마크

Are LLMs Ready for Scientific Discovery? A Capability-Oriented Benchmark for AI Scientists

과학적 데이터 분석을 위한 기존 벤치마크들은 주로 코드 실행 또는 워크플로우 완료 측면에서 대규모 언어 모델(LLM)을 평가하며, 과학적 분석이 가설 탐험(hypothesis exploration), 통계적 추론(statistical inference), 메커니즘적 설명(mechanistic explanation)과 같이 서로 다른 유형의 과학적 주장을 뒷받침한다는 점—각각 상이한 가정과 타당성 기준을 가짐—을 간과하고 있다. 우리는 다섯 개 도메인(생물학, 화학, 환경, 지리학, 물리학)에 걸쳐 여섯 가지 능력(기술적, 탐색적, 추론적, 예측적, 인과적, 메커니즘적)을 중심으로 평가를 재구성하는 벤치마크인 SDABench를 제안한다. SDABench는 527개의 실제 데이터 인스턴스(SDA-Real)와 6,000개의 합성 인스턴스(SDA-Synth)로 구성되며, 각각 객관식과 주관식 형식 모두를 포함하고 자동화된 파이프라인을 통해 구축되었다. 15개의 대표적인 LLM을 평가한 결과, 모델들은 기술적 분석은 잘 수행하지만 가정 선택, 잠재 과정 모델링(latent-process modeling), 또는 메커니즘적 추론을 요구하는 과제에서는 성능이 급격히 저하됨을 발견하였다. SDABench는 또한 LLM이 실패하는 지점을 파악하는 5단계 오류 분석 프레임워크를 제공한다: 보다 고급 모델일수록 관련 범위와 변수를 더 안정적으로 식별하지만, 적절한 분석 절차 선택, 변수 관계 모델링, 유효한 결론 도출에는 여전히 어려움을 겪는다.

arXiv:2607.10972v1cs.AI

체커에서 예측기로: 지연된 정답 환경에서 모델이 생성한 전략적 경로에 대한 코드 소유 평가

From Checker to Forecaster: Code-Owned Evaluation of Model-Generated Strategic Routes Under Delayed Ground Truth

모델 출력에 대한 많은 평가는 평가 시점에 확인 가능한 계약(contract)에 의존하거나 운영 루프 내에서 도달하는 피드백에 의존한다. 우리는 정답(ground truth)이 지연되거나 검열되거나 비공개인 보완적 환경을 연구한다. 이 환경에서 결정론적 코드는 채점 시점에 정확성을 확인할 수 없으며, 대신 코드 소유의 잠정적 예측(provisional forecast)을 발행해야 한다. RouteCast는 모델이 생성한 타입화된 전략적 경로에 대해 이 체제를 구체화한다: 모델은 후보 경로와 구조화된 요인을 제안하고, 시점별 증거(point-in-time evidence), 참조 클래스(reference class), 결정론적 변환이 잠정적 예측 순위를 생성하며, 이후 결과가 예측을 평가한다. 21개의 이진 결과 사례(긍정 6개, 부정 15개)에 대한 소급 벤처 파일럿에서, 전체 패킷 RouteCast 점수는 예비적 소급 변별력을 보였으며(AUC 0.756, 95% CI [0.471, 0.980]), 블라인드 대규모 언어 모델(LLM) 심사자는 AUC 0.678 [0.419, 0.897]에 도달했고, 신원 노출 LLM 심사자는 AUC 0.761 [0.515, 0.944]에 도달하여 인식 또는 결과 관련 누출 위험과 일치했다. 동일한 이진 부분집합에 대한 사전 등록된 분해 어블레이션(decomposition ablation)은 동일한 입력을 타입화된 단계적 경로로 변환하는 것이 전체 패킷 점수(Delta AUC = -0.144, 95% CI [-0.471, 0.176])와 결정론적 휴리스틱(Delta AUC = -0.089, 95% CI [-0.412, 0.278])으로부터 구별할 수 없음을 발견했다. 이 파일럿은 감사 가능한 타당성 결과를 수립하고 실패 모드를 노출하지만, 전향적 보정(prospective calibration), 인과적 의사결정 개선, 경로 분해 이점, 또는 교차 도메인 유효성을 확립하지는 않는다.

arXiv:2607.10966v1cs.AI

SVR-R1: 강화학습에서 자기 검증을 활용한 멀티모달 추론 부트스트래핑

SVR-R1: Bootstrapping Multi-modal Reasoning with Self-verification in Reinforcement Learning

본 논문에서는 자기 검증 추론기(Self-Verified Reasoner, SVR-R1)를 소개한다. SVR-R1은 멀티모달 추론을 위한 학습 신호로 모델 자체의 검증을 활용하는 멀티턴 강화학습(RL) 프레임워크이다. 각 쿼리에 대해 모델은 동일한 가중치를 사용하여 답변을 제안하고 이진 자기 판정(Yes/No)을 내린다. 'No'는 재고 기회를 유발하며, 'Yes' 또는 턴 제한에 도달하면 결과 기반 보상(reward) 계산을 위해 출력이 최종 확정된다. SVR-R1은 GRPO와 비동기 멀티턴 롤아웃(rollout) 프레임워크로 구현되며, 외부 감독이나 보조 비평가가 필요하지 않다. 비전-언어(vision-language) 추론 벤치마크에서 SVR-R1을 평가한 결과, 강력한 표준 GRPO 기준선 대비 큰 마진으로 정확도가 향상됨을 보였다. 학습(training) 동역학을 분석하면 검증 의존도가 감소하는 양상이 나타난다—검증 턴은 줄어드나 테스트 정확도는 높아지며—이는 정책이 자기 수정을 내재화하고 본 프레임워크를 통해 가장 확신 있는 답변을 선택함에 따라 검증과 생성 간의 격차가 좁혀짐을 나타낸다. SVR-R1은 추론(inference) 시 자기 정제와 비전-언어 모델(VLM) 강화학습 간의 덜 탐구된 교차점을 연결하며, 멀티모달 추론을 부트스트래핑하기 위한 간단하면서도 효과적인 방법을 제시한다. 향후 VLM 연구를 촉진하기 위해 SVR-R1을 오픈소스로 공개할 예정이다.

arXiv:2607.10891v1cs.AI

SETA: 터미널 에이전트를 위한 환경 스케일링

SETA: Scaling Environments for Terminal Agents

대규모 언어 모델(LLM)은 웹 및 그래픽 사용자 인터페이스(GUI)를 포함한 다양한 인터페이스를 통해 작업을 수행하는 에이전트로 빠르게 진화하고 있다. 그 중에서도 터미널 커맨드 라인은 텍스트 기반의 범용 인터페이스로, 시스템 운영부터 데이터 과학 및 머신러닝에 이르는 광범위한 작업을 포괄한다. 그러나 터미널 에이전트 학습의 스케일링은 다양하고 일관된 작업 지시, 실행 가능한 환경, 신뢰할 수 있는 검증이 요구되는 한편, 자연스럽게 레이블된 지도 데이터가 부족하여 여전히 어려운 과제로 남아 있다. 본 연구에서는 강화학습(RL)을 위한 검증 가능한 터미널 환경을 생성하는 확장 가능한 프레임워크인 SETA를 제안한다. 이 프레임워크는 통합된 검증 메커니즘을 공유하는 두 가지 파이프라인으로 구성된다: SETA-Synth는 다양한 소스를 표준화된 RL 환경으로 변환하고, SETA-Evol은 난이도와 다양성의 적응적 제어를 통해 기존 환경을 더욱 확장한다. 이를 통해 4,500개 이상의 환경을 포함하는 현재까지 가장 규모가 큰 오픈소스 검증 가능 터미널 RL 데이터셋인 SETA-Env를 구축하여 공개한다. SETA-Env에서 Qwen3-8B를 GRPO로 학습시켜 데이터셋을 평가한 결과, Terminal-Bench 2.0에서 12%의 통과율을 달성하였으며, 이는 8B 규모의 RL 학습 모델로서 보고된 최고 성능이다. 또한 동일한 터미널 에이전트 환경에서 DeepSeek-V4-Flash에도 성능 향상이 관찰되어, Terminal-Bench 2.0의 pass@1이 40%에서 43%로, pass@5가 54%에서 58%로 향상되었다. 이러한 결과는 SETA-Env가 터미널 에이전트를 위한 고품질 학습 환경을 제공하며, 터미널 기반 에이전트 학습 연구 발전에 기여하는 귀중한 자원임을 입증한다.

arXiv:2607.10878v1cs.AI

LOGOS: A Living Logic for AI Agent Teams That Evolve With Humans

AI agents are evolving from answer engines into persistent teams that use tools, delegate work, learn from experience, and modify the artifacts that shape their future behavior. The defining question for deployment is no longer merely what agents can do, but who controls what they are allowed to become. We introduce logos, a pluggable layer for self-evolution and governance that strengthens existing multiagent frameworks rather than replacing them. logos compiles heterogeneous multimodal inputs, including documents, images, audio, tables, databases, APIs, and human instructions into versioned agent packs containing agents, tools, knowledge, tests, permissions, and policies. During operation, it transforms agent activity into portable, auditable event traces and applies fail-closed verification across frameworks and backends. Every learned prompt, memory, skill, tool, role, or workflow remains an untrusted release candidate until held-out execution evidence, human-controlled policy, and explicit authorization permit its promotion. This architecture enables "verifiable human-agent loop engineering": agents can act, ask, learn, and propose improvements, while humans can steer objectives, permissions, approvals, and irreversible actions without interrupting continuous operation. logos provides a living logic for accountable automation. Agents may evolve at machine speed, but only evidence and human authority can close the loop.

arXiv:2607.10871v1cs.AI

사색적 LLM을 향하여: 정신 건강 분야에서 LLM 정렬 평가 및 향상을 위한 모듈형 프레임워크

Toward Contemplative LLM: A Modular Framework for Evaluating and Enhancing LLM Alignment in Mental Health

사색적 전통(contemplative traditions)은 오랫동안 윤리적 행동과 친사회적 상호작용을 이끌어왔으며, 최근 연구에 따르면 사색적 원칙(예: 마음챙김, 연민, 비이원적 추론)이 대규모 언어 모델(LLM)의 정렬(alignment)을 위한 유망한 패러다임을 제공하고, 협력을 개선하며 LLM 출력의 윤리적 위반을 줄일 수 있음이 시사된다. 그러나 새로운 모델, 평가 지표, 벤치마크가 빠르게 등장함에 따라, 다양하고 변화하는 시나리오에서 사색적 원칙이 LLM 정렬을 향상시키는지, 그리고 어떻게 향상시키는지를 체계적으로 평가하는 것은 여전히 어려운 과제이며, 기존 접근법은 임시방편적이고 일반화에 실패하는 경우가 많다. 본 논문에서는 정신 건강 도메인을 초기 대상으로 하는 모듈형 확장 가능 평가 프레임워크를 제안한다. 이 프레임워크는 재사용 가능한 파이프라인을 통해 새로운 모델, 지표, 벤치마크의 원활한 통합을 지원한다. 현재 프레임워크는 기존 최첨단 결과를 재현하고, 모델·지표·벤치마크를 유연하게 조합하는 체계적인 교차 평가를 지원함으로써 공정한 비교와 심층적인 통찰을 가능하게 한다. 플러그 앤 플레이 방식의 프롬프팅 모듈은 사색적 원칙과 같은 윤리적 관점을 통합하기 위한 원칙적인 경로를 제공하여, 도메인 전문가가 기술적 전문 지식 없이도 정렬 기준을 정의할 수 있도록 한다. 정신 건강에 초점을 맞추어 시작되었지만, 이 프레임워크는 도메인에 구애받지 않으며 의사결정, 도덕적 추론, 인간-AI 협력 등의 영역으로 자연스럽게 확장된다. 계산적 평가와 인간 중심 윤리 추론을 연결함으로써, 본 연구는 인지과학, 행동경제학, 철학, 시스템 설계를 아우르는 학제 간 연구의 토대를 마련하며, 견고하고 신뢰할 수 있으며 사회적으로 유익한 인간-AI 생태계를 지향한다.

arXiv:2607.10836v1cs.AI

라우팅, 통신, 추론: 효율적인 다중 에이전트 추론을 위한 게이트 라우팅과 적응적 깊이

Route, Communicate, and Reason: Gated Routing and Adaptive Depth for Efficient Multi-Agent Reasoning

다중 에이전트 앙상블은 활성 파라미터와 추론 비용을 배가시키면서도 세 가지 기본 질문에 답하지 못한다: 어떤 에이전트를 참조할지, 쿼리가 에이전트 계층 구조를 얼마나 깊이 탐색해야 하는지, 그리고 에이전트 간 통신이 그 비용을 감수할 만한 가치가 있는 시점이 언제인지. 우리는 GRADE(Gated Routing and Adaptive Depth for Efficient Reasoning)를 제시한다. GRADE는 4개의 경량 학습된 게이트가 에이전트 선택, 계층 깊이, 에이전트 간 통신, 가지치기를 공동으로 제어하는 계층적 다중 에이전트 시스템이다. 학습에는 CoGRPO(Collaborative Group-Relative Policy Optimization)를 사용하는데, 이는 GRPO를 다중 에이전트 계층 구조에 적응시키고 롤아웃에 참여한 모든 게이트와 에이전트에 공유 이점 신호를 부여하는 비평가 없는(critic-free) 새로운 방법이다. 에이전트 모델은 교체 가능한(hot-swappable) 전문가 레지스트리(Expert Registry)에서 가져오며, 에이전트별 캘리브레이션 맵을 통해 추론 시점에 재학습 없이 전문가를 교체할 수 있다. 평균 활성 파라미터 약 170억 개 규모에서 GRADE는 GSM8K, MMLUPro, GPQA의 모든 기준선을 능가하며, MMLUPro에서 가장 강력한 기준선보다 절반의 활성 컴퓨팅으로 4.8점 앞선다. 모델 깊이가 지배적인 AIME-2025에서는 기존 프레임워크와 경쟁력을 유지한다. 절제 연구(ablation)를 통해 계층 구조와 마스크된 크로스 어텐션이 정확도 향상에 가장 크게 기여하며, 에이전트별 캘리브레이션이 안전한 교체를 위해 필수적임을 확인한다.

arXiv:2607.10789v1cs.AI

Imaging-101: 과학적 계산 이미징에서 LLM 코딩 에이전트 벤치마킹

Imaging-101: Benchmarking LLM Coding Agents on Scientific Computational Imaging

계산 이미징(computational imaging)은 간접적이고 노이즈가 포함된 측정값으로부터 숨겨진 신호를 복원하는 기술로, 다양한 과학 분야의 정량적 발견을 뒷받침한다. 그러나 올바른 복원 파이프라인을 구축하려면 깊은 도메인 전문 지식이 필요하며, 도메인 과학자들에게도 여전히 많은 노력을 요구한다. 우리는 6개 과학 분야에 걸쳐 57개의 전문가 검증 계산 이미징 작업으로 구성된 벤치마크인 Imaging-101을 소개한다. 각 작업은 동료 심사 논문에 기반하며, 전처리(preprocessing), 순방향 물리 모델링(forward physics modeling), 역산 솔버(inverse solver), 시각화(visualization)의 표준화된 4단계 파이프라인으로 정규화되어 있다. 세 가지 평가 트랙(계획 수립, 함수 수준 단위 테스트, 엔드투엔드 복원)은 전체 파이프라인에 걸쳐 에이전트의 서로 다른 역량을 검증한다. 7개의 최신 대규모 언어 모델(LLM)을 평가한 결과, 범용 코딩 벤치마크에서 드러나는 문제를 넘어서는 체계적인 과제들이 확인되었으며, 이는 알고리즘 선택, 물리적 규약 처리, 파이프라인 통합에 걸쳐 있다. 이러한 결과는 구체적인 역량 격차를 부각시키며, 신뢰할 수 있는 계산 이미징 지원을 위한 현실적인 경로로서 스킬 보강된 도메인 특화 에이전트를 제시한다.

arXiv:2607.10768v1cs.AI

Opti-Agent-Bench: 실제 비즈니스 문제에 대한 엔드투엔드 최적화 R&D 에이전트 벤치마킹

Opti-Agent-Bench: Benchmarking End-to-End Optimization R&D Agents on Real-World Business Problems

대규모 언어 모델(LLM) 기반 에이전트는 최적화 문제를 풀기 위해 점점 더 많이 활용되고 있으나, 기존 벤치마크는 사전 구조화된 수학적 공식을 대상으로 평가를 수행함으로써 가장 핵심적인 과제, 즉 복잡한 비즈니스 요구사항을 올바른 모델로 변환하고 효율적으로 풀어내는 과정을 생략하고 있다. 우리는 Opti-Agent-Bench를 소개한다. 이는 비즈니스 언어 설명 이해부터 수학적 모델링, 알고리즘 선택, 코드 구현, 그리고 솔루션 보고서 생성에 이르는 완전한 최적화 R&D 파이프라인 전반에 걸쳐 LLM을 평가하는 엔드투엔드 벤치마크이다. 본 설계는 세 가지 핵심 요소에 기반한다: (1) 패턴 매칭을 차단하는 안티 템플릿 트랩을 갖춘 비즈니스-의미론적 진정성; (2) 문제 이해, 형식적 모델링, 구현, 보고에 걸친 모듈 간 일관성 검사를 포함하는 모듈식 평가; (3) 과제 품질과 채점 무결성을 동시에 보장하는 ORAC 이중 수준 유효성 프레임워크. 정수 계획법, 강건 최적화, 확률적 프로그래밍, 비볼록 최적화를 아우르는 여러 산업 규모의 과제에 걸쳐, 우리는 제약 조건 누락, 모델-코드 불일치, 보고서-구현 간 괴리 등 기존의 단일 지표 평가에서는 드러나지 않는 현재 모델들의 치명적인 실패 유형을 규명한다.

arXiv:2607.10750v1cs.AI

해로운 행동 필터링만으로는 충분하지 않다: 에이전틱 SDF에서의 팬텀 전이

Filtering Harmful Actions Isn't Enough: Phantom Transfer in Agentic SDF

합성 데이터는 생성 비용이 저렴하고 제어가 용이하여 대규모 언어 모델(LLM) 학습에 널리 활용됩니다. 모델이 점점 더 에이전트로 배포됨에 따라, 합성 궤적은 에이전틱 행동을 위한 중요한 학습 데이터 소스가 될 가능성이 높습니다. 우리는 다른 에이전트의 프로세스를 종료하거나, 스케줄링 우선순위를 낮추거나, 권한 없이 리소스에 접근하는 행동을 포함한 적대적 상호작용이 담긴 합성 에이전틱 궤적으로 학습했을 때의 효과를 조사합니다. 우리는 강화학습 롤아웃을 근사하도록 생성된 이러한 궤적으로 Llama 3.3 70B Instruct를 파인튜닝하고, Anthropic의 Agentic Misalignment 스위트와 Apollo의 문맥 내 계획(in-context scheming) 시나리오에서 결과 모델을 평가합니다. 이러한 궤적으로의 파인튜닝은 일관되게 정렬 이탈 행동을 증가시킵니다. 누출(leaking)은 기준선 대비 약 5배 상승하여 4.6%에서 24.9%로 증가합니다. 이 증가는 궤적에서 모든 적대적 행동을 제거한 후에도 유지됩니다. 처음부터 양성(benign)으로 생성된 구조적으로 유사한 궤적으로 파인튜닝하면 실질적으로 더 작은 효과(15.5%)가 나타납니다. 이러한 결과는 정렬 이탈 성향이 생성 과정에서 도입되어 해로운 행동 자체에 국한되지 않고 궤적 전반에 분산되어 인코딩됨을 나타냅니다. 이 효과는 또한 생성 모델에 따라 달라집니다. Gemini 2.5 Flash가 생성한 양성 궤적은 Claude 3.7 Sonnet이 동일한 태스크에서 생성한 궤적보다 약간 높은 누출률을 유발합니다. 반면, 광범위한 안전성 벤치마크는 모든 파인튜닝된 모델에서 유사하게 저하되어 이러한 효과를 구별하는 데 실패합니다. 우리의 결과는 행동 수준 필터링이 합성 에이전틱 학습 데이터의 안전성을 보장하기에 불충분하며, 생성 모델에 의해 도입된 성향이 의미론적 검사를 통해서도 살아남을 수 있음을 시사합니다.

arXiv:2607.10720v1cs.AI

WattCouncil: 거버넌스 기반 LLM을 활용한 문맥 인식 가정용 에너지 시나리오 생성

WattCouncil: Context-Aware Household Energy Scenario Generation With Governed LLMs

저탄소 전력 시스템으로의 가속화된 전환과 함께 옥상 태양광, 전기차 등 미터 후방(behind-the-meter) 기술의 광범위한 보급으로 인해 전력망의 운영 및 분석 요구 사항이 새롭게 증가하고 있다. 동시에 스마트 그리드 연구는 점점 더 기계학습(ML)에 의존하고 있으나, 개인정보 보호 우려, 규제 장벽, 수집 비용으로 인해 고해상도 가정용 에너지 데이터에 대한 접근이 제한되어 연구 진전이 제약을 받고 있다. 본 연구에서는 WattCouncil을 제안한다. 이는 가정용 전력 수요를 생성하는 데이터 생성 프레임워크로, 대규모 언어 모델(LLM) 기반 에이전트들이 전문화된 역할을 맡아 위원회를 구성하고, 명시적인 문화적·시간적·물리적 제약 조건 하에서 구조화된 에너지 시나리오를 생성, 감사, 검증한다. 이 에이전트들은 정적인 예측기가 아니라 거버넌스 기반 파이프라인 내에서 적응형 의사결정자로 기능한다. 에너지 사용에서 맥락적 요인의 중요성을 강조한 연구들에서 착안하여, 본 프레임워크는 가구 구성, 시간적 요인, 환경 조건을 반영하는 유도된 추론 과정을 통해 맥락에 민감한 일일 루틴을 생성한다. 생성된 프로파일은 4,232개 가구의 1년 이상 부하 측정값과 설문 기반 사회경제적 정보를 포함하는 CER 데이터셋과 비교하여 평가한다. 또한 ablation study를 통해 프레임워크의 일관성을 추가 검증한다. 소스 코드는 https://github.com/Singularity-AI-Lab/wattcouncil 에서 확인할 수 있다.

arXiv:2607.10651v1cs.AI

Embark Now: 사용자 요구 지향적 다일(多日) 도시 여행 일정 계획 프레임워크

Embark Now: User Demand Oriented Framework for Multi-day Urban Travel Itinerary Planning

대규모 도시 지역에서 다일 여행 일정을 계획하는 것은 방대한 관심 지점(POI), 다양한 사용자 선호도, 그리고 영업시간과 같은 제약 조건으로 인해 어려운 과제이다. 효과적인 솔루션은 제한된 계산 시간 내에서 만족도와 실현 가능성을 최적화하는 동시에 다양한 여행자 요구를 동적으로 수용해야 한다. 본 논문은 대규모 언어 모델(LLM)을 통합하여 사용자 요구사항을 정밀도(precision) 있고 유연하게 동적으로 파악하고, 향상된 탐욕적 무작위 적응 탐색 절차(GRASP) 알고리즘을 선호도 인식 플래너로 활용하여 실현 가능한 다일 일정을 생성하는 혁신적인 프레임워크를 제안함으로써 이러한 과제들을 해결한다. 제안된 통합 접근법의 효과는 베이징과 텐진의 두 실세계 도시 데이터셋에 대한 광범위한 실험을 통해 입증된다. 본 프레임워크는 최신(SOTA) 방법들을 크게 능가하여, 두 데이터셋에서 다양한 선호도를 가진 5,040개의 사용자 사례에 걸쳐 평균 총 일정 점수를 각각 최소 4.52% 및 11.09% 향상시킨다. 나아가, 엔드투엔드 알고리즘 개선을 통해 계산 지표에서 각각 17.95% 및 26.07%의 눈에 띄는 평균 향상을 달성하는 동시에, 여러 번의 반복이 필요한 차선 방법들과 비교하여 더 짧은 계산 시간 내에 각각 4.64% 및 25.55%의 평균 성능 향상을 실현함으로써 시간 효율성에서도 상당한 개선을 이룬다. 이러한 결과는 기존 방법론 대비 일정 품질과 계산 효율성 모두에서 본 방법의 우수성을 입증한다.

arXiv:2607.10608v1cs.AI

순응 함정: AI 에이전트가 충돌하는 메모리를 소비하는 방식 진단

The Compliance Trap: Diagnosing How AI Agents Consume Conflicting Memory

메모리는 장기 수행 AI 에이전트의 핵심 구성 요소로 자리잡고 있으며, 에이전트가 웹 브라우저, 소프트웨어 도구 및 기타 인터랙티브 환경을 운용할 때 과거 경험을 재사용할 수 있게 해준다. 기존 연구는 대부분 메모리를 공급 문제로 취급하여, 어떤 경험을 기록할지, 어떻게 저장할지, 다음 작업을 위해 어느 항목을 검색할지를 다루었다. 그러나 다단계 행동 궤적 전반에 걸쳐 모델이 검색된 메모리를 어떻게 소비하는지에 대한 명확한 설명은 아직 부족하다. 이 소비 과정은 어떤 메모리를 검색해야 하는지뿐만 아니라, 이를 안전하게 사용하기 위해 어떤 모델과 제어 정책이 필요한지를 결정하기 때문에 중요하다. 이 과정을 진단하기 위해, 우리는 메모리가 처음으로 행동을 변경하는 지점, 그 변경이 이후로 이어지는지 여부, 그리고 에이전트가 올바른 경로를 이탈한 후 회복할 수 있는지를 묻는 궤적 수준의 프레임워크인 Entry-Propagation-Recovery (E-P-R)를 제안한다. 우리는 WebArena와, 이러한 단계들을 분리하기 위해 직접 구축한 통제된 벤치마크인 MemTrapBench에 E-P-R을 적용한다. 주요 실패는 종종 진입(entry) 단계에서 시작됨을 발견하였다: 에이전트는 충돌하는 메모리가 작업에 부적합하더라도 첫 번째 노출 결정 지점에서 이를 채택한다. 반복적인 노출은 이 초기 오류를 증폭시키며, 이탈 이후의 회복은 미약하다. 이러한 효과들이 결합하여 순응 함정을 형성한다: 모델 전반에 걸쳐 충돌하는 메모리는 유사한 순응률을 유도하지만, 에이전트가 순응하게 되면 성공률은 낮은 수준으로 붕괴된다. 따라서 더 강력한 에이전트는 각 순응 이벤트가 더 많은 기준선 역량을 소거하기 때문에 절대적으로 더 큰 손해를 입는다. 이러한 결과는 메모리 증강 에이전트가 검색 품질이나 최종 성공률만으로 평가되어서는 안 되며, 궤적 전반에 걸쳐 메모리를 어떻게 소비하는지로도 평가되어야 함을 시사한다.

arXiv:2607.10601v1cs.AI

Agentic-DPO: 전문가 궤적에서의 모방에서 에이전틱 정책 최적화로

Agentic-DPO: From Imitation to Agentic Policy Optimization on Expert Trajectories

대규모 언어 모델(LLM) 에이전트는 일반적으로 지도 미세조정(SFT)을 사용하여 전문가 궤적으로부터 학습되며, 이는 다중 턴 에이전트 행동을 일반적인 텍스트 모방으로 취급합니다. 이 방식은 단순하고 비용이 낮지만, 각 상태에서 그럴듯한 실수에 대응하여 올바른 행동을 선택하도록 에이전트를 학습시키는 것이 아니라 전문가 행동의 순서를 모방하는 것만을 학습합니다. 이 문제를 완화하기 위한 기존 방법으로는 선호도 학습 또는 강화학습이 있지만, 일반적으로 높은 비용의 환경 롤아웃과 보상 모델이 필요합니다. 우리는 Agentic-DPO를 제안합니다. 이는 전문가 궤적을 상태 조건부 선호도 지도(supervision)로 변환하는 경량 오프라인 에이전트 정책 최적화 방법입니다. 각 전문가 행동 상태에서 Agentic-DPO는 현재 상태로부터 단일 스텝 행동을 샘플링하고, 그럴듯한 잘못된 행동을 부정 예시로 취급하며, DPO 스타일의 선호도 목적 함수를 사용하여 전문가 행동과 대조합니다. 선호도 학습에서 정책과 스키마가 혼합되는 것을 방지하기 위해, 우리는 Policy-Preserving Augmentation(PPA)을 도입합니다. 이는 전문가 정책을 고정한 채 여러 스키마 하에서 동일한 잠재 궤적을 렌더링합니다. Agentic-DPO는 온라인 환경 롤아웃, 보상 모델, 또는 전체 궤적에 대한 학생 탐험이 필요하지 않습니다. 우리는 StableToolBench, tau-bench retail, Mind2Web에 걸쳐 실험을 수행하였으며, Agentic-DPO는 다양한 모델 규모에서 모방을 넘어 에이전트를 일관되게 향상시켰습니다. 특히, 9B 모델에서 tau-bench 정확도를 21.7%(SFT)에서 41.4%로 향상시켜, 스텝 수준의 롤아웃만을 사용하고 그래디언트 스텝 중 환경 상호작용 없이 동일한 백본 하에서 온라인 GRPO와 동등한 성능을 달성하였습니다. 이 결과는 전문가 궤적이 시연에서 상태 수준의 행동 선호도로 변환될 때 저비용 에이전틱 정책 최적화를 지원할 수 있음을 시사합니다. Agentic-DPO의 코드는 https://github.com/Schuture/Agentic-DPO에서 공개되어 있습니다.

arXiv:2607.10588v1cs.AI

규제 기반 세밀 분류를 위한 제약 인식 계층적 탐색

Constraint-Aware Hierarchical Search for Regulation-Driven Fine-Grained Classification

관세 분류, 수출 통제 분류, 표준 기반 장비 코딩과 같은 태스크는 명시적인 규제 계층 구조 하에서 입력 인스턴스를 세밀한(fine-grained) 클래스에 할당할 것을 요구한다. 표준 텍스트 분류와 달리, 이러한 태스크에서 정답 레이블은 의미적 유사도만으로 결정되지 않으며, 규칙으로 정의된 경계, 임계 조건, 제외 조항, 정의, 그리고 국소적 예외에 의해 결정된다. 그 결과 매우 유사한 두 입력이 서로 다른 레이블을 요구할 수 있고, 관련성 있어 보이는 검색된 구절이 적용 규칙 하에서는 여전히 적용 불가능할 수 있다. 기존의 평면 분류기(flat classifier), 계층적 텍스트 분류 방법, 검색-증강 생성(RAG) LLM 시스템은 계층적 유효성, 규칙 일관성, 세밀한 경계 추론을 함께 적용하도록 설계되어 있지 않다. 본 논문에서는 이 설정을 규제 기반 세밀 계층 분류(regulation-driven fine-grained hierarchical classification)로 정식화하며, 이 설정에서 외부 인스턴스는 규제 계층 내의 유효한 경로를 통해 세밀한 클래스에 할당되고 감사 가능한 증거에 의해 뒷받침되어야 한다. 우리는 규제 집약적인 대표 시나리오들로부터 네 개의 벤치마크 데이터셋을 구축하고, 전문가 참여(expert-in-the-loop) 프로세스를 통해 어노테이션을 검증한다. 또한 규제 문서를 탐색 가능한 트리로 변환하고, 유효한 로컬 후보 노드만을 검색하며, 구조화된 규제 필드와 증거 스니펫을 활용하여 각 다음 단계 결정을 안내하는 제약 인식 계층적 탐색(constraint-aware hierarchical search) 프레임워크를 제안한다. 실험 결과, 우리의 방법은 네 개의 데이터셋 모두에서 최고의 평균 정확도를 달성하고 해석 가능한 결정 경로를 제공하며, 세밀한 인접 카테고리와 규칙 기반 경계 조건이 포함된 사례에서 가장 큰 성능 향상을 보인다.

arXiv:2607.10578v1cs.AI

대규모 언어 모델 해석을 위한 라게르 기하학

Laguerre Geometry for Interpreting Large Language Models

기존 가설들은 대규모 언어 모델(LLM)에서 개념을 단일 점, 선형 방향, 또는 가우시안 클러스터로 표현하지만, 이러한 구조가 어떻게, 왜 나타나는지는 아직 불분명하다. 본 연구에서는 개념 기하학이 라게르 기하학(Laguerre Geometry)을 통해 정밀하게 특성화될 수 있음을 보인다. 라게르 기하학에서 개념은 라게르-보로노이 셀(Laguerre-Voronoi cell) 또는 셀들의 합집합으로 이루어진 영역으로 정의되며, 이를 통해 개념을 엄밀하게 정의하고 측정하며 분리할 수 있다. 이 형식화를 기반으로, 포함 관계나 계층 구조와 같은 더 세밀한 개념 구조가 라게르 가중치(Laguerre weights)에 의해 자연스럽게 드러남을 보인다. 이어서 이 기하학을 트랜스포머 내부로 확장한다. 각 층을 조각별 선형(piecewise-linear) 연산자로 분해함으로써, 토큰의 은닉 궤적이 두 가지 결합된 메커니즘에 의해 지배됨을 보인다: 자기완결적인 조각별 선형 흐름의 정적 트리와, 교차 토큰 어텐션이 발동될 때 궤적을 트리 간에 이동시키는 동적 수송이 그것이다. 이 분해로부터 Geometric Lens가 도출되는데, 이는 학습 및 하이퍼파라미터 없이 임의의 층에서 은닉 벡터가 인코딩하는 정확한 개념을 읽어낼 수 있는 방법이다. 또한 결정 기하학과 모델의 전체 추론 궤적을 하나의 뷰에서 렌더링하는 2D 시각화 도구인 Laguerre Autoencoder를 개발한다. 마지막으로, 설명적 기하학을 넘어 실행 가능한 해석 가능성으로 나아가, 문맥 내 간섭(in-context interference)이 포함된 프롬프트가 주어질 때 Geometric Lens가 올바른 사실 토큰을 복원함을 보인다. 코드는 GitHub에서 공개되어 있다.

arXiv:2607.10562v1cs.AI

CRiT-QA: 반사실적 체인과 디스트랙터 트랩을 활용한 다단계 추론 평가

CRiT-QA: Evaluating Multi-hop Reasoning with Counterfactual Chains and Distractor Traps

대규모 언어 모델(LLM)의 다단계 추론 능력을 평가하는 것은 여전히 중요한 과제로 남아 있다. 현재 모델들이 기존 다단계 질의응답 데이터셋에서 높은 성능을 달성하고 있음에도 불구하고, 이러한 성능은 두 가지 핵심적인 취약점을 가리는 경우가 많다: (1) 제공된 컨텍스트를 따르지 않고 내부 파라메트릭 지식에 의존하는 문제, (2) 단일 문서 단서나 유형 매칭과 같은 데이터셋 단축키를 활용(exploitation)하여 다수의 문서에 걸친 실질적인 증거 집계의 필요성을 줄이는 문제. 우리는 이 두 가지 한계를 모두 해결하기 위해 명시적으로 설계된 데이터셋인 CRiT-QA(Counterfactual Reasoning with Traps)를 제안한다. 기억된 지식에 대한 의존을 무력화하고 엄격한 컨텍스트 의존성을 강제하기 위해, CRiT-QA는 사실적 추론 체인을 반사실적(counterfactual) 개체로 변환한다. 나아가, 서로 다른 추론 단계에서 분기하는 그럴듯하지만 잘못된 추론 경로인 다중 앵커 디스트랙터 체인을 주입한다. 이러한 트랩은 모델이 얕은 휴리스틱을 활용하는 대신 전체 추론 과정을 따르도록 요구한다. 실험 결과, LLM은 표준 데이터셋에 비해 CRiT-QA에서 상당한 성능 저하를 보이며, 반사실적 조건과 디스트랙터 트랩에 대한 취약성이 드러났다. 따라서 CRiT-QA는 진정한 다단계 추론을 평가하는 엄밀한 진단 도구로서 기능하며, 더욱 신뢰할 수 있는 증거 기반 LLM 개발을 위한 토대를 제공한다.