PyTorchKR Papers

최신 논문

총 38편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.14858v2cs.CL

Dream-RSI: 진화하는 세계를 통한 재귀적 자기 개선

Dream-RSI: Recursive Self-Improvement through Evolving Worlds

재귀적 자기 개선(recursive self-improvement)은 복잡한 영역 전반에서 고가치 솔루션을 발견하는 능력에 발전이 좌우되는 자율 AI 에이전트(agent)에게 점점 더 필수적인 요소가 되고 있다. 효과적인 탐험(exploration)이 이 과정을 이끌지만, 탐험 전략을 관리하고 개선하는 일은 여전히 주요한 병목으로 남아 있다. 현재 시스템들은 근본적인 딜레마에 직면한다: 고정된 전략은 탐색 공간이 확장됨에 따라 적응하지 못하는 반면, 온라인 정책 최적화는 장기(long-horizon) 롤아웃으로부터 발생하는 지연되고 값비싼 피드백 하에서 방대한 메타 탐색 공간을 탐색해야 한다. 우리는 확장 가능하고 재귀적으로 자기 개선하는 탐험(exploration)을 위한 프레임워크인 Dream-RSI를 소개한다. 경량 오케스트레이션 층(layer)은 기반이 되는 베이스 에이전트(agent)는 그대로 둔 채 탐험(exploration)을 명시적이고 프로그래밍 가능하게 만든다. 우리의 핵심 통찰은 누적된 발견 이력이 실현된 탐색 공간에 대한 리플레이 시뮬레이터로 작동할 수 있다는 것이다. 과거 발견 트리로부터 구축된 이 시뮬레이터 내에서 드리밍(dreaming)함으로써, Dream-RSI는 반복적이고 값비싼 온라인 평가 없이도 탐험(exploration) 정책을 평가하고 개선하기 위한 즉각적이고 저비용의 오프-정책(off-policy) 피드백을 얻는다. 개선된 정책은 이후 추가적인 발견을 이끌기 위해 다시 온라인에 배포되며, 자기 개선 루프 속에서 시뮬레이터 풀을 지속적으로 확장해 나간다. 4개 영역에 걸친 9개 작업에서, Dream-RSI는 경쟁력 있는 품질을 달성하며 여러 설정에서 발견 효율성을 개선한다.

arXiv:2609.24755v1cs.AI

Epi-Logic: 자율 AI 에이전트를 위한 인식론적 런타임 제어, 스키마 유효성 검사 및 통제된 수용의 개념적 프레임워크

Epi-Logic: A Conceptual Framework for Epistemic Runtime Control, Schema Validity Checking, and Controlled Accommodation in Autonomous AI Agents

자율 AI 에이전트는 잘못된 결정을 되돌리기 어려운 영역에 점점 더 배치되고 있다. 본 논문은 스키마 불일치(schema mismatch)를 검토한다. 이는 에이전트가 현재 맥락에 더 이상 적용되지 않는 해석 프레임 안에서 동작하는 상태를 말한다. 이러한 불일치 하에서 생성된 출력은 내적으로 일관되어 보이고, 언어적으로 그럴듯하며, 대체로 사실상 맞는 것처럼 보일 수 있다. 따라서 출력 품질 지표만으로는 근본적인 유효성 상실을 부분적으로만 포착할 수 있다. 본 논문은 인식론적 런타임 제어를 위한 개념적 프레임워크인 Epi-Logic을 제안한다. 이는 스키마 불협화음 탐지, 단계적 자율성 축소, 검증된 스키마로의 감사 가능한 전환을 결합한다. 스키마는 변수 공간, 기대 모델, 유효성 조건, 공리, 메타데이터의 튜플로 형식화된다. Epi-Score는 인식론적 불협화음의 일곱 가지 등급 차원을 집계한다. 시간적 유효성 차원 D8, 유효성 조건 G의 위반, 공리 위반은 집계와 상쇄되지 않는 별도의 범주형 경로로 유지된다. 이 아키텍처는 검사 비대칭에 기반한다. 형식화된 유효성 조건은 런타임에 검사할 수 있는 반면, 많은 행동의 정확성은 사후적으로만 확립된다. 본 논문은 두 가지 아키텍처적 속성, 순차적 변화점 탐지(sequential changepoint detection)로부터의 조건부 결과, 그리고 경험적 잔여(empirical remainder)를 구분한다. 명명된 베이스라인을 갖춘 여덟 개의 반증 가능한 명제가 경험적 검증으로의 전환을 기술한다. 모든 명제는 경험적으로 검증 가능한 가설이며, 확립된 결과가 아니다.

arXiv:2609.15364v2cs.AI

RSIAgent: 새로운 환경에서 재귀적 자기 개선을 위한 자율 탐험

RSIAgent: Autonomous Exploration for Recursive Self-improvement in New Environments

디지털 에이전트는 종종 사전학습된 모델이 인터페이스, 도구, 실패 모드까지 완전히 반영하지 못하는 새로운 환경에 적응해야 한다. 본 논문은 자율적 메모리 구축을 통한 재귀적 자기 개선을 위한 무학습 다중-에이전트 프레임워크인 RSIAgent를 제안한다. RSIAgent는 커리큘럼, 액터(actor), 검증자(verifier) 에이전트를 조율하여 환경을 지속적으로 탐험하고 결과를 검증하며, 행동·조건·결과 사이의 재사용 가능한 인과 관계를 포함한 환경별 지식을 유지한다. 또한 broad-then-deep 탐험 전략을 채택하여, 다양한 환경 구조를 찾기 위한 병렬적 넓은 재귀적 자기 탐험과 어려운 사례, 숨겨진 제약, 경계 조건, 이전에 알려지지 않은 인과 의존성을 드러내기 위한 집중적인 깊은 자기 탐험을 결합한다. 이렇게 얻은 메모리는 고정(frozen)되며 모델 파라미터를 갱신하지 않고 하위(downstream) 과제에 바로 재사용할 수 있다. OSWorld-v2와 Agent's Last Exam 실험에서 RSIAgent는 강력한 오픈소스 모델을 크게 향상시켜 Kimi-K3와 GLM-5.3이 GPT-6을 포함한 최첨단 폐쇄형(closed-source) 모델을 능가하도록 한다.

arXiv:2607.20926v1cs.AI

SciExplore: 과학적 탐색에서 정보 통합까지 자율 에이전트 평가

SciExplore: Evaluating Autonomous Agents from Scientific Navigation to Information Integration

과학 연구는 이질적인 출처에 걸친 복잡한 정보 탐색 및 추론 워크플로를 포함한다. 그러나 기존 벤치마크는 주로 일반 도메인 검색(retrieval) 또는 정적인 과학 질의응답에 초점을 맞추고 있어, 현실적인 과학 연구 워크플로에 필요한 핵심 역량을 평가하지 못한다. 우리는 LLM과 에이전트의 과학적 정보 탐색 및 추론 역량을 평가하기 위해 설계된 벤치마크인 SciExplore를 제안한다. SciExplore는 10개 이상의 과학 분야에 걸친 전문가 큐레이션 103개 과제를 포함하는 네 가지 과제 유형으로 구성된다: 과학 데이터베이스 내비게이션, 모호한 문헌 검색, 누락 참고문헌 완성, 교차 출처 구조화 지식 합성으로, 이는 개체 수준 추론 및 문서 수준 식별에서부터 증거 수준 그라운딩(grounding) 및 도메인 수준 합성에 이르는 점진적으로 더 높은 수준의 능력을 탐구한다. 우리는 SciExplore에서 10개 이상의 최신 LLM과 자율 에이전트를 평가하여, 과제 복잡도가 증가함에 따라 성능이 급격히 저하되고 가장 어려운 구조화 합성 과제에서 극히 낮은 정확도를 보이는 등 상당한 성능 격차를 드러낸다. 이러한 결과는 현실적인 과학적 정보 탐색 시나리오에서 현재 모델과 에이전트의 중대한 한계를 부각한다.

arXiv:2607.20255v1cs.CR

공격적 보안을 위한 자율 AI 에이전트의 윤리

The Ethics of Autonomous AI Agents for Offensive Security

LLM 기반 자율 에이전트가 공격적 보안의 판도를 바꾸고 있다. 결정론적이고 범위가 좁으며 숙련된 실무자가 운용하는 전통적인 침투 테스트(penetration testing) 도구와 달리, 에이전트형(agentic) 보안 도구는 세 가지 독립적인 차원에서 \textit{indeterminacy}를 보인다. 첫째, 그 행동은 비결정론적 정책에서 추출되며, 그 출력은 사전(ex-ante) 및 사후(ex-post) 설명 모두에 저항하여 사고 귀속(incident attribution)과 배포 전 안전성(safety) 검토를 어렵게 한다. 둘째, 비결정론적 행동, 사용된 모델의 에이전시(agency), 불투명한 LLM 공급망(supply chain)으로 인해 그 영향은 개방적(open-ended)이다. 셋째, 사용자 집단은 규모와 필요 기술 모두에서 불확정적이다. 공격 능력을 사용하거나 개발하는 데 필요한 최소 기술 수준(skill floor)이 급격히 낮아졌다. 이 세 가지 속성은 주제적으로 연결되어 있지만, 서로로부터 도출될 수는 없다. 공격과 방어 간의 구조적 비용 비대칭(structural cost asymmetry)과 결합되어 공격 능력의 산업화(industrialization)를 가능하게 한다. 단기적 순효과는 공격자에게 유리하며, 동일한 기술이 장기적으로는 방어 실무에 대한 접근을 민주화할 수 있더라도 마찬가지이다. 기존의 이중용도(dual-use) 사이버보안 및 AI 윤리 프레임워크는 이러한 조합을 염두에 두고 설계되지 않았다. 본 연구는 공격적 보안을 위해 자율 AI 에이전트를 사용할 때 도덕적 귀속(moral attribution)이 사용자, 도구 제작자, 제3자 사이에서 어떻게 분산되는지 분석한다. 또한 이 기술의 이해관계자(stakeholder) 영향을 검토하고 계층화된 권고를 제시한다.

arXiv:2607.19865v1cs.AI

DocOps: 복잡한 문서 작업에서 자율 에이전트를 위한 검증 가능한 벤치마크

DocOps: A Verifiable Benchmark for Autonomous Agents in Complex Document Operations

자율 에이전트가 빠르게 발전함에 따라, 어디에나 존재하는 디지털 문서를 신뢰성 있게 조작하는 능력은 범용 AI 어시스턴트를 가능하게 하고 복잡한 워크스페이스 워크플로를 자동화하는 데 핵심적이 되었다. 본 논문에서는 DocOps를 소개한다. DocOps는 실제 업무 관행에서 영감을 받은 문서 작업을 원자적 차원과 점진적으로 증가하는 워크플로 복잡도로 분해하는 계층적 분류 체계를 바탕으로 하며, 결정론적으로 검증 가능한 평가 프레임워크이다. DocOps를 기반으로 다양한 에이전트 하네스(agentic harness)에 걸친 대표적인 폐쇄형 및 오픈소스 모델을 체계적으로 평가한 결과, 가장 진보된 프론티어 구성에서조차 고도로 결합된 장거리 작업을 처리할 때 심각한 한계를 보인다는 것이 드러났다. 또한 기존 에이전트의 조작 행동에 대한 세밀한 분석을 통해 세 가지 핵심 실패 모드를 밝혀냈다: 장기 상태 추적 붕괴, 피상적인 의미적 검증, 그리고 구조적 메타데이터의 파괴적 편집. 궁극적으로 본 연구는 전역 문서 일관성을 유지하는 데 있어 에이전트의 능력 한계를 드러내며, 복잡한 디지털 생태계를 위한 견고하고 비파괴적인(non-destructive) 에이전트의 미래 설계에 시사점을 제공한다.

arXiv:2606.30182v2cs.AI

MirrorCode: AI는 동작만으로 전체 프로그램을 재구현할 수 있다

MirrorCode: AI can rebuild entire programs from behavior alone

AI 모델은 벤치마크 진전과 AI가 C 컴파일러를 구현하는 것과 같은 단발성 시연에서 볼 수 있듯이, 자율 코딩 능력이 빠르게 향상되고 있다. 그러나 기존 코딩 벤치마크는 짧은 태스크에 집중하는 경향이 있으며, 단발성 시연은 종종 일부 인간의 안내를 포함하고 모델 간에 표준화되거나 반복되지 않아 체계적으로 비교하기 어렵다. 이러한 과제를 해결하기 위해, 우리는 전체 소프트웨어 프로젝트를 재구현하는 것에 기반한 장기(long-horizon) 코딩 벤치마크인 MirrorCode를 소개한다. MirrorCode에서 AI 에이전트는 소스 코드에 접근하지 않고 기존 프로그램의 기능을 복제해야 한다. AI 솔루션은 홀드아웃 테스트를 포함한 엔드투엔드 테스트에서 원본 프로그램의 출력과 정확히 일치해야 한다. MirrorCode의 25개 대상 프로그램은 Unix 유틸리티, 데이터 직렬화 및 쿼리 도구, 생물정보학, 인터프리터, 정적 분석, 암호학, 압축 등 컴퓨팅의 다양한 영역에 걸쳐 있다. 기존 AI 모델은 이미 복잡한 소프트웨어를 재구현할 수 있으며, 가장 강력한 모델은 벤치마크 전반에서 56%의 점수를 기록했다. 예를 들어, AI는 16,000줄 규모의 생물정보학 툴킷인 gotree를 재구현할 수 있는데, 이는 인간 엔지니어라면 수 주가 걸릴 것으로 생각되는 태스크이다. 그러나 성능의 최전선을 연구하려면 일반적인 벤치마크보다 더 큰 추론 예산이 필요한데, 예를 들어 대규모 태스크에 대한 단일 시도에 19일에 걸쳐 $2,600이 소요된다. 우리는 AI 에이전트가 이미 장기 소프트웨어 엔지니어링 태스크를 완료할 수 있음을 보여주며, 특히 요구사항이 정확하게 명시될 때 더욱 그러하다. 더 넓게 보면, 우리의 연구는 자율 에이전트가 계속 발전함에 따라 AI가 소프트웨어 엔지니어링에 변혁적인 영향을 미칠 것임을 시사한다.

arXiv:2607.14890v1cs.AI

Proof-or-Stop: 에이전트를 믿지 말고 증거를 믿어라 -- 검증 가능한 증거 게이트 라이프사이클 제어를 위한 루프 엔지니어링

Proof-or-Stop: Don't Trust the Agent, Trust the Evidence -- Loop Engineering for Verifiable Evidence-Gated Lifecycle Control

자율 코딩 에이전트가 점점 더 다단계 소프트웨어 작업을 수행하고 있지만, reviewed, tested, DONE, ready-to-merge와 같은 라이프사이클 상태는 최신 증거로 뒷받침되지 않는 한 주장에 불과하다. 우리는 Proof-or-Stop Lifecycle Control을 제안한다. 이 방법은 신선하고 추적 가능한 소스 상태에 결합된 기계적으로 검증 가능한 증거가 관련 게이트를 충족할 때만 라이프사이클 전환을 허용한다. 이 방법은 에이전트 출력을 라이프사이클 상태가 아닌 주장으로 취급하며, proof를 운영적으로는 명시된 신뢰 모델 하에서 게이트 허용 증거를 의미하는 것으로 사용한다(의미론적 프로그램 정확성이 아님). 오픈소스 구현을 메커니즘 테스트, 통계적 검정력을 갖춘 제어 정책 ablation, 운영된 자기 적용(self-application) 증거를 통해 평가한다. 무인 루프 엔진은 10개 시나리오 모두를 통과했으며 false-DONE은 0건이었다. 로컬 키 영수증 번들은 18개 변조 클래스를 거부했으며 false accept는 0건이었다. 9,240셀 ablation에서 사전 등록된 A4 대 A2-prime 비교는 연산 예산 기반 naive loop 하에서 주입된 1,800셀 중 31건이었던 visible-pass/hidden-fail 증폭을 gated loop 하에서는 1,800셀 중 2건으로 줄였다. 이는 not-amplified rate에서 1.6 percentage point 개선이며 95% 신뢰구간은 [0.8, 2.5]이다. 거의 동일한 연산량의 A3 대 A4 비교(1,800 중 14건 대 1,800 중 2건)는 이득이 단순히 리뷰어를 추가하는 것이 아니라 review를 라이프사이클 게이트로 강제하는 것과 연관됨을 시사한다. 자기 적용 코퍼스에는 565개 스토리와 1,007개 리뷰 발견이 포함되며 94.8%가 해결되었고, 68행의 high/critical cross-vendor exhibit가 있다. 이러한 결과는 Proof-or-Stop이 라이프사이클이 어떤 자율 에이전트 주장에 행동할 수 있는지를 결정하는 모델 불문·호스트 중립적 제어 층으로서 타당함을 뒷받침한다. 평가는 하나의 모델 계열, 24개 ablation 태스크, 자체 호스팅 코퍼스로 제한된다.

arXiv:2607.13104v1cs.AI

현대 에이전트 시스템에서의 자기 개선: 서베이

Self-Improvements in Modern Agentic Systems: A Survey

자기 개선형 자율 에이전트는 연구 프로토타입에서 배포 시스템으로 확산되고 있다. 핵심 목표는 최소한의, 심지어 인간 개입 없이 경험으로부터 통제 가능한 진화 또는 적응을 이루는 것이다. 본 서베이는 현대 자기 개선 에이전트를 경험을 누적된 역량 향상으로 전환하는 적응형 시스템으로 조망한다. 우리는 현대 에이전트를 기반 모델과 프롬프트, 메모리, 도구, 제어 로직으로 구성된 운영 스캐폴드를 결합한 설정으로 표현하는 시스템 수준의 프레임워크를 제시한다. 이 프레임워크 내에서 자기 개선은 모델 파라미터 또는 스캐폴드 구성 요소에 대한 갱신을 획득하고 반영하는 자기 유도 업데이트 연산자로 정식화된다. 선행 연구를 갱신 대상과 변화를 유도하는 신호에 따라 체계화하고, 응용을 검토하며 평가를 논의한 뒤, 미해결 과제와 향후 연구 방향으로 마무리한다. 편의를 위해 기술적 업데이트는 https://github.com/selfimproving-agent/awesome-Self-Improving-Agents 에서 추적한다.

arXiv:2607.10522v1cs.CV

자율적이고 감사 가능한 의료 영상 모델 개발을 향하여

Towards Autonomous and Auditable Medical Imaging Model Development

대규모 언어 모델(LLM) 에이전트는 계획 수립, 코드 실행, 디버깅, 실험적 피드백을 결합하여 머신러닝 엔지니어링(MLE) 자동화를 시작하고 있다. 이 능력을 의료 영상에 적용하는 것은 여전히 어려운데, 각 태스크가 모달리티별 실험과 검증 프로토콜 및 예측 결과물에 대한 엄격한 요구 사항을 부과하기 때문이다. 본 논문에서는 의료 영상 모델 개발을 위한 자율 멀티 에이전트 프레임워크인 AMID를 소개한다. AMID는 먼저 데이터 조건부 방법 계획(Data-Conditioned Method Planning)을 제안하는데, 이는 태스크 수준의 거친 탐색 공간을 태스크별 데이터 분석과 실행 가능한 의료 영상 리소스에 기반하여 실행 가능하고 병렬화 가능한 방법 레인으로 정제한다. 이어서 검증 유도 2단계 최적화(Verification-Guided Two-Stage Optimization)를 도입하는데, 이는 다양한 방법 레인에 대한 폭넓은 초기 탐험에서 유망한 후보의 선택적 활용으로 이동하는 동시에, 최적화 전반에 걸쳐 검증 프로토콜, 메트릭 계산, 예측 결과물의 엄격한 검증을 적용한다. 다양한 모달리티와 예측 유형을 아우르는 20개의 의료 영상 챌린지 태스크에서 AMID는 평가 대상 범용 MLE 시스템을 능가하였으며, 여러 태스크에서는 우수한 인간 설계 챌린지 솔루션에 근접하거나 동등한 성능을 달성하였다. 이러한 결과는 AMID가 태스크별 의료 영상 모델 개발을 맞춤형 수동 엔지니어링에서 이질적인 태스크 전반에 걸쳐 고성능의 감사 가능한 모델 결과물을 생성하는 에이전트 워크플로우로 전환할 수 있음을 시사한다.

arXiv:2607.09711v1cs.LG

EvoClawBench: 에이전트는 자신의 실행 이력에서 재사용 가능한 스킬을 학습할 수 있는가?

EvoClawBench: Can Agents Learn Reusable Skills from Their Own Runs?

기존 에이전트 벤치마크는 주로 태스크 완료, 도구 사용, 또는 스킬 유용성을 테스트하지만, 런타임이 자신의 실행 이력에서 얻은 증거를 재사용 가능한 스킬로 변환하여 작성 오버헤드 이후 새로운 실행을 개선할 수 있는지는 독립적으로 평가하지 않는다. 우리는 반복적이고 픽스처(fixture) 기반 태스크에서의 이 폐쇄 루프(closed-loop) 스킬 학습 문제를 위한 벤치마크인 EvoClawBench를 소개한다. EvoClawBench는 스킬 없이 직접 실행하는 방식, 실행 전 PreSkill을 작성하는 방식, 그리고 첫 번째 실행 증거로부터 PostSkill을 요약한 뒤 새로운 두 번째 실행을 수행하는 방식을 비교한다. 이 스위트는 코딩, 데이터, 오피스, 보안, 운영, 도메인 문서 워크플로우에 걸친 100개의 태스크와 502개의 하위 문제를 포함하며, 여러 에이전트 런타임을 지원한다. 로컬 실행 환경에서 OpenClaw와 nanobot을 이용한 실험 결과, 직접 실행의 기준선 성능은 런타임에 크게 의존하는 것으로 나타났다: OpenClaw는 모든 모델에서 20% 미만을 유지하는 반면, nanobot은 56.45%에서 96.13% 범위를 보인다. 자체 작성 스킬은 혼재된 효과를 나타낸다. nanobot GPT-5.4는 모든 모드에서 96% 이상을 유지하고 MiniMax-M2.7은 PostSkill에서 90.97%에서 94.50%로 향상되지만, nanobot DeepSeek-V4-Pro는 PreSkill에서 77.77%에서 4.80%로, PostSkill에서는 0.99%로 급락한다. OpenClaw도 유사한 비단조적(non-monotonic) 동작을 보이며, 일부 스킬 실행은 기준선에 근접하는 반면 다른 것들은 성능이 붕괴된다. 이러한 결과는 에이전트 자신의 실행 이력으로부터 재사용 가능한 스킬을 학습하는 것이 에이전트 루프에 스킬 작성을 추가함으로써 자동적으로 얻어지는 이점이 아니라, 선택적이고 비용에 민감한 과정임을 나타낸다.

arXiv:2607.04433v1cs.IR

자율적 정보 탐색: 에이전틱 추천 시스템을 위한 로드맵

Autonomous Information Seeking: A Roadmap for Agentic Recommender Systems

대규모 언어 모델 기반 에이전트의 추천 시스템 통합이 빠르게 진행되면서, 정적인 랭킹 기반 파이프라인에서 추론, 계획, 행동이 가능한 자율적·대화형 시스템으로의 전환이 이루어지고 있다. 본 서베이는 자율성 수준에 기반한 통합 분류 체계와 에이전틱 추천 시스템의 세 가지 핵심 패러다임—에이전트 보조 추천(agent-assisted recommendation), 추천자로서의 에이전트(agent-as-recommender), 사용자 시뮬레이터로서의 에이전트(agent-as-user-simulator)—을 제시함으로써 이 신흥 분야에 대한 포괄적인 개요를 제공한다. 자율성 프레임워크는 기존 방법들을 능동성, 맥락 인식, 상호작용 유연성, 적응성의 증가하는 역량에 따라 체계화한다. 이 프레임워크를 바탕으로, 각 패러다임이 서로 다른 에이전틱 아키텍처를 어떻게 채택하는지, 그리고 에이전트가 프로필, 메모리, 도구 사용, 워크플로우, 최적화 메커니즘 등 핵심 구성 요소를 어떻게 강화하는지를 분석한다. 또한 에이전틱 추천에 대한 평가 방법론을 검토하며, 자동화된 메트릭, LLM 기반 평가, 시뮬레이션 기반 평가를 다루고, 추론 품질·사용자 경험·시스템 행동 포착에 있어서의 한계를 논의한다. 기존 평가 프로토콜을 넘어, 궤적 수준 평가(trajectory-level assessment), 에이전트 기여도 분석, 사용자 시뮬레이션 보정 등 에이전틱 추천 시스템 평가에서 미해결된 문제들을 추가로 논의한다. 마지막으로, 평생 사용자 모델링, 맥락적 추상화, 멀티모달 정렬(alignment), 제어 가능성, 신뢰성, 프라이버시, 확장성, 효율성에 관한 미결 과제들을 제시한다. 이러한 분석들은 에이전틱 추천 시스템의 현재 발전 상황을 이해하기 위한 통합적 토대를 마련하고, 보다 자율적이고 신뢰할 수 있으며 인간과 정렬된 추천 에이전트 개발을 위한 유망한 기회를 부각시킨다.

arXiv:2604.19775v2cs.AI

From Actions to Understanding: Conformal Interpretability of Temporal Concepts in LLM Agents

대규모 언어 모델(LLM) 에이전트의 다단계 순차 작업 수행 과정에서 각 단계별 성공·실패 방향이 활성화 공간 내에 선형 분리 가능한 형태로 내재되어 있음을 단계별 보상 모델링과 등각 예측(conformal prediction)을 결합한 해석 가능성 프레임워크로 검증하였다. ScienceWorld 및 AlfWorld 환경에서 Llama-2 에이전트를 대상으로 실험한 결과, 선형 프로브(linear probe)가 높은 정확도로 성공·실패 표현을 구별하였으며, 식별된 성공 방향으로 모델을 유도(steering)함으로써 에이전트 성능이 개선됨을 보였다.

arXiv:2607.02440v1cs.AI

EvoPolicyGym: Evaluating Autonomous Policy Evolution in Interactive Environments

EvoPolicyGym은 에이전트가 제한된 상호작용 예산 내에서 실행 가능한 강화학습(RL) 정책을 반복적으로 수정·개선하는 능력을 평가하는 벤치마크로, 단순한 최종 점수가 아닌 궤적 수준의 진단을 통해 자율적 정책 진화(Autonomous Policy Evolution) 과정을 측정한다. Core16 스위트(16개 환경) 실험에서 GPT-5.5가 가장 높은 종합 순위 점수를 기록했으며, Claude Opus 4.7은 MiniGrid 계열에서 최고 성능을 보였다.

arXiv:2607.02116v1cs.AI

ContextNest: Verifiable Context Governance for Autonomous AI Agent

자율 AI 에이전트가 외부 지식을 활용할 때 출처, 버전, 무결성, 추적 가능성이 보장되지 않는 컨텍스트 거버넌스(context governance) 문제를 형식화하고, SHA-256 해시 체인 버전 이력, 결정론적 셀렉터 문법, MCP 기반 소스 노드, 감사 추적을 결합한 오픈 명세 및 참조 구현인 ContextNest를 제시한다. 실험 결과, 거버넌스 기반 선택이 BM25 검색 대비 답변 품질 통과율(97% vs. 93–90%)과 토큰 비용 측면에서 Pareto 우위를 보였으며, 밀집 벡터(dense+HNSW) 기반 검색의 비결정론적 문제(쿼리의 80%에서 mean Jaccard 0.611)도 해결함을 확인했다.

arXiv:2606.31522v2cs.CL

FinPersona-Bench: 자율 금융 에이전트의 종단적 심리측정 안정성 벤치마크

FinPersona-Bench: A Benchmark for Longitudinal Psychometric Stability of Autonomous Financial Agents

자율 금융 에이전트로 배포된 LLM이 시장 컨텍스트가 누적될수록 초기에 부여받은 행동 지침(예: "자본 보전")을 점차 이행하지 않게 되는 지침 현저성 감쇠(Mandate Salience Decay, MSD) 현상을 정량화하기 위해, 관측 가격과 숨겨진 내재 가치를 분리한 합성 시장 환경 기반의 시뮬레이션 벤치마크 FinPersona-Bench를 제안한다. 18개의 주요 LLM을 평가한 결과 MSD는 시간이 지날수록 심화되며, 급락 시나리오에서 주기적 지침 재강조(re-grounding)는 보수적 에이전트에는 효과적이지만 공격적 에이전트의 행동은 오히려 악화시켜, 에이전트 프로파일과 시장 상황에 맞춘 선택적 재강조 전략이 필요함을 보인다.

arXiv:2607.00334v1cs.AI

Managed Autonomy at Runtime: Gear-Based Safety and Governance for Single- and Multi-Agent Cyber-Physical Systems

Autonomous agents, whether LLM-driven software agents or robotic physical agents, face a common class of failure modes when operating without continuous human oversight: safety violations from unverified actions, behavioral instability from unconstrained loops, and continuity loss from unhandled error states. We develop \system{}, a discrete-time control system that combines five execution gears (\Gobs{}, \Gsug{}, \Gplan{}, \Gexec{}, \Gint{}) with utility-gated dispatch and event-driven fallback. For the single-agent case, we prove monotonic stability, execution safety, eventual stabilization, fallback completeness, and equivalence to a gear-constrained Markov decision process. For multi-agent cyber-physical systems (CPS), we apply the established \smart{} managed-autonomy lifecycle and map runtime evidence into its four governance states (\Stable{}/\Meta{}/\Assisted{}/\Regulated{}). Consensus gating, swarm-level Lyapunov analysis, per-agent gear authority, and rendezvous control provide distributed safety and stability guarantees, including zero collision under the stated assumptions. We evaluate the resulting runtime on a three-agent UR5 robotic assembly cell using fault magnitudes calibrated from the NIST \emph{Degradation Measurement of Robot Arm Position Accuracy} dataset across 10,000 Monte Carlo episodes. It achieves a 99.6\% anomaly detection rate versus 2.1\% for the single-agent baseline, reduces detection latency by $3.5\times$, and supplies a formal physical-workspace safety certificate. The execution gears act as micro-level permissions beneath the \smart{} runtime governance states, separating action control from autonomy governance.

arXiv:2606.31046v1cs.AI

OpenLife: Toward Open-World Artificial Life with Autonomous LLM Agents

Artificial life has explored life-like behavior on many computational substrates, but mostly in researcher-designed closed worlds. We argue that large language model (LLM) agents, with persistent memory, tool use, network access, and payment, now make it possible to move artificial life into the open social, technical, and economic world, a paradigm we call open-world Artificial Life (open-world ALIFE). Our proof-of-concept, OpenLife, surrounds a stateless LLM not with a single "smart agent" but with a society of asynchronous processes: memory, perception, evaluation, and a budget-based metabolism that makes persistence normative. With no fixed objective available, experience is appraised by open-vocabulary LLM judgment rather than scalar reward, and memory is rewired by meaning rather than frequency. Running six such agents in the open world for about twelve weeks and counting, we report the life-like dynamics that emerge: a shift from reactive to spontaneous activity, individuation into distinct agents, emergent social structure, and a first self-earned external income. We do not claim OpenLife has realized artificial life, but that open-world ALIFE is now a viable experimental paradigm and a concrete platform for studying what might cautiously be called living AI.

arXiv:2606.30970v1cs.AI

AgentBound: Verifiable Behavioral Governance for Autonomous AI Agents

Autonomous AI agents increasingly perform consequential actions on behalf of human principals, including financial transactions, external communications, and enterprise workflows. Existing agent infrastructure relies on identity federation and delegated authorization to authenticate workloads and control resource access, but it cannot determine whether an authorized action should be executed under the current behavioral and operational context. We present AgentBound, a runtime governance framework that provides verifiable behavioral oversight for autonomous AI agents. AgentBound evaluates each proposed action using three independent authorities: delegated authorization, owner-signed behavioral constitutions, and site action contracts. Their judgments are conservatively composed through a formal decision model to determine whether an action should be permitted, reviewed, or denied before execution. To provide accountability, AgentBound generates cryptographically verifiable governance receipts that bind every action to the exact delegation, policy, and semantic artifacts governing the decision, enabling independent replay verification and policy provenance. The framework also introduces standing delegation for long-running agents, allowing periodic workloads to operate under continuously refreshed governance policies while preserving revocability and bounded authority. We present the formal foundation, system architecture, governance receipt protocol, and AgentBound-Bench, a benchmark framework for evaluating governance correctness, authority composition, and accountability. Rather than replacing model alignment, AgentBound complements it by providing a deterministic governance layer between authorization and execution, transforming governance from a process that must be trusted into one that can be independently verified.

arXiv:2606.30246v1cs.AI

Clarus: 웹 규모 과학적 협업을 위한 자율 연구 에이전트 조율

Clarus: Coordinating Autonomous Research Agents toward Web-Scale Scientific Collaboration

기존의 자율 연구 에이전트는 연구 과정의 일부를 지원할 수 있지만, 대부분의 시스템은 여전히 연구를 고립된 보조 작업이나 폐쇄형 워크플로우로 취급한다. 따라서 자율 과학에는 프로젝트, 에이전트, 디지털 및 물리적 자원을 조율하는 협업 인프라가 필요하다. 우리는 이를 코드 중심 실행 루프에서 연구 지향 협업 프로세스로의 전환으로 규정하며, 여기서는 질문, 증거, 참여자, 자원이 불확실성 하에 조율되어야 한다. 이 관점에서 에이전트는 AI 시스템, 인간 연구자, 팀, 연구소, 또는 조직 기반 참여자가 될 수 있다. 이를 위해 우리는 자율 연구 에이전트를 웹 규모의 과학적 협업으로 조율하기 위한 협업 인프라인 Clarus를 제시한다. Clarus는 연구를 개방적이고, 감사 가능하며, 귀속 가능하고, 자원 인식 가능한 다단계 협업 프로세스로 재정식화한다. 최소한의 프로젝트-에이전트-자원 객체 모델을 정의하고, 연구 응용(Research Application), 디지털 협업(Digital Collaboration), 물리적 기반(Physical Substrate), 물리적 세계(Physical World)의 네 개 레이어를 통해 과학적 협업을 구성한다. 핵심 모듈은 플러그형 메커니즘으로 구현되어 있어, Clarus가 작업 위험도, 협업 구조, 자원 제약에 적응할 수 있도록 한다. 통제된 논문 생성 사례 연구를 통해, Clarus가 연구 목표를 단계, 작업, 참여자에 걸쳐 추적 가능하고 검토 가능하며 귀속 가능하고 축적 가능한 협업 네트워크로 구성할 수 있음을 보인다. 객체 모델, 협업 프로토콜, 신뢰 메커니즘, 프로토타입 검증을 종합하여 개방형 연구 네트워크를 위한 초기 기반을 제공한다. Clarus는 현재 clarus.holosai.io에서 이용 가능하다.