PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.04562v3cs.AI

대규모 언어 모델의 인식론적 엔트로피 제거를 위한 롤링 계수의 헤비사이드 연속성

Heaviside Continuity of Rolling Coefficients for Eliminating Epistemic Entropy in Large Language Models

대규모 언어 모델(LLM)은 유창하지만 틀릴 수 있는 출력을 생성합니다. 허위 정보를 제공할 때 종종 단서를 나타내는 인간과 달리, LLM은 자기회귀적 디코딩이 상태 진행 이전에 중간 추론을 검증하는 메커니즘을 제공하지 않기 때문에 탐지하기 어려운 오류를 생성합니다. 우리는 헤비사이드 게이트(Heaviside Gate)에 의해 제어되는 술어 게이팅 상태 전이로 추론을 재정의하는 검증 우선 실행 프레임워크인 롤링 계수의 헤비사이드 연속성(HCRC, Heaviside Continuity of Rolling Coefficients)을 소개합니다. HCRC는 모델 신뢰도와 병렬 워커 아키텍처의 독립적인 검증 신호를 결합하여, 사전 정의된 정확성 술어가 충족될 때만 실행이 진행될 수 있도록 합니다. 이를 통해 유효하지 않은 중간 상태의 전파를 방지하고, 기반 모델을 수정하지 않고도 인식론적 엔트로피를 줄입니다. 우리는 네 개 공급업체의 열세 개 제안자(proposer)를 대상으로 소프트웨어 엔지니어링 및 추론 작업에서 HCRC를 평가합니다. 성능이 우수한 제안자의 경우, 게이트는 거짓 완료율(FCR)을 4--7%에서 0%로 줄이면서 지연 시간 측면에서도 경쟁력을 유지하며, 일부 설정에서는 래핑되지 않은 모델보다 빠릅니다. 성능이 약한 제안자의 경우, 거짓 완료를 다운스트림 상태를 손상시키는 대신 정직한 중단으로 전환합니다. 벤치마킹을 넘어, HCRC는 에이전트 코딩 환경의 프로덕션 제어 플레인으로 수개월간 운영되며, 파일 변경 승인, 검증 기반 진행 보고, 메모리 압축을 수행하고 있습니다. 이러한 결과는 HCRC를 검증 기반 LLM 실행을 위한 범용 프레임워크로 확립하며, 신뢰할 수 있는 추론이 모델 스케일만이 아닌 원칙적인 실행 제어를 통해 달성될 수 있음을 보여줍니다.

arXiv:2605.10913v3cs.AI

Shepherd: Enabling Programmable Meta-Agents via Reversible Agentic Execution Traces

As LLM agent systems take on more complex tasks, they increasingly rely on meta-agents: higher-order agents that create, operate on and manage other agents. Meta-agent operations such as coordinating agents, halting risky actions before execution, or repairing failed runs, require runtime manipulation of agentic execution. Yet existing agentic substrates make this difficult: they expose only transcripts and environment snapshots, forcing meta-agents to build ad hoc tooling to reconstruct and operate over full execution state. Therefore, we introduce Shepherd, a Python substrate grounded in functional programming principles, where an agent's execution is itself a first-class object that a meta-agent can easily inspect and transform. Every model action, tool call, and environment change becomes a structured event in a reversible, Git-like execution trace, where any past state can be reverted 5x faster than docker commit and fork. Three example use cases show Shepherd's versatility: (1) a supervisor meta-agent prevents conflicts among parallel coding agents, lifting pair-coding pass rate from 28.8% to 54.7% on CooperBench; (2) a counterfactual optimization meta-agent repairs agent workflows by proposing edits and replaying runs from the point of changed behavior, outperforming MetaHarness on Terminal-Bench 2.0 by 12.8% with 58% lower wall-clock; (3) a training meta-agent picks fork points during rollouts to improve credit assignment in long-horizon agentic RL, doubling GRPO's uplift on Terminal-Bench 2.0. We open-source Shepherd to enable principled and efficient operations over agentic execution for both users and meta-agents.