arXiv:2610.02351v1 cs.AI

DeReAct: 신뢰할 수 있는 AI 에이전트를 위한 분해된 추론 및 행동

DeReAct: Decomposed Reasoning and Acting for Reliable AI Agents

Ajay Vohra, Tao Chen, Neeti Narayan, Caron Zhang

제출 2026-10-01

한국어 초록

ReAct 기반 에이전트(agent)는 일반적으로 단일 대규모 언어 모델(LLM) 정책에 의존하여 행동을 제안하고, 환경(environment)과 상호작용하며, 작업 완료 시점을 결정합니다. 이러한 결합은 행동 권한 부여와 완료 제어를 독립적으로 적용하기 어렵게 만들어, 오류가 전파되고 근거 없는 완료 주장으로 인해 실행이 종료되도록 만듭니다. 본 논문에서는 두 가지 게이팅 정책을 외재화한 모듈형 에이전트 아키텍처인 DeReAct를 제안합니다: 실행 전 제안된 행동을 검증하는 비평가(Critic), 그리고 환경이 뒷받침하는 \textsc{State}를 재구성하고 작업 완료를 인증하는 컨텍스트 관리자(Context Manager)입니다. GAIA 및 SWE-bench Verified 전반에서 DeReAct는 상대적으로 취약한 Brain 모델에서 Pass@1을 가장 크게 향상시켜 Qwen3-Coder-480B의 경우 6.5--7.0 포인트, Claude Sonnet~4.5의 경우 4.2--5.2 포인트의 향상을 보였으며, Brain 역량이 증가함에 따라 향상 폭은 감소합니다. 궤적 및 어블레이션 분석 결과, 외부 게이팅은 목표로 하는 실패 사례가 충분히 빈번하고 게이팅 정책 자체가 충분할 때 효과적인 것으로 나타났습니다. Claude Opus~4.5의 경우 Pass@1은 ReAct와 비슷한 수준을 유지하지만, DeReAct는 증거가 더욱 완전하고 제약 조건을 더 잘 만족하는 궤적을 생성하며, 이는 완료 제어가 더 강력한 그라운딩(grounding)을 위해 조기 종료를 절충할 수 있음을 나타냅니다. 전반적으로 DeReAct는 취약한 에이전트를 개선하는 동시에 모델이 강화되더라도 그라운딩 이점을 유지합니다.

원문 초록

ReAct-based agents typically rely on a single LLM policy to propose actions, interact with the environment, and decide when a task is complete. This coupling makes action authorization and completion control difficult to enforce independently, allowing errors to propagate and unsupported completion claims to terminate execution. We introduce DeReAct, a modular agent architecture that externalizes two gating policies: a Critic that validates proposed actions before execution, and a Context Manager that reconstructs an environment-supported \textsc{State} and certifies task completion. Across GAIA and SWE-bench Verified, DeReAct improves Pass@1 most for weaker Brain models, with gains of 6.5--7.0 points for Qwen3-Coder-480B and 4.2--5.2 points for Claude Sonnet~4.5; gains diminish as Brain capability increases. Trajectory and ablation analyses show that external gating is effective when targeted failures are sufficiently prevalent and the gating policy is itself sufficient. With Claude Opus~4.5, Pass@1 remains comparable to ReAct, while DeReAct produces more evidence-complete and constraint-satisfying trajectories, indicating that completion control can trade earlier termination for stronger grounding. Overall, DeReAct improves weaker agents while retaining grounding benefits as models strengthen.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.02351v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.10942v2cs.AI공통 태그 Decision Making, llm agents

StoreBench: 자율 운영자 에이전트의 평가 및 학습을 위한 라이브 커머스 환경

StoreBench: A Live-Commerce Environment for Evaluating and Training Autonomous Operator Agents

강화학습(RL) 환경은 이제 사후 학습(post-training)에서 대규모 언어 모델(LLM)의 역량을 향상시키는 주요 수단이 되었으나, 대부분의 에이전트 벤치마크는 여전히 정적입니다. 즉, 에이전트가 행동할 때만 환경이 변화하고, 보상은 최종적인 판정으로 주어지며, 통과 기준은 자의적으로 설정됩니다. 본 논문에서는 에이전트가 프로덕션 수준의 상거래 백엔드에서 중간 규모의 온라인 의류 매장을 운영하며 불확실성 속에서 장기 계획 수립 및 경제적 판단력을 시험받는 라이브 커머스 환경인 StoreBench를 소개합니다. 고객은 24시간 내내 주문하고, 공급업체는 가격을 재책정하거나 공급에 실패하며, 시장 충격은 부분적인 예고만 있거나 예고 없이 발생합니다. 에이전트는 실제 인간 운영자가 사용하는 것과 동일한 29개의 판매자 도구를 통해 행동하며, 취해진 행동의 함수로 시뮬레이션 시간을 계산하는 윈도우 기반 운영 예산 하에서 작동하므로 모델 지연 시간이 시뮬레이션 시간에 영향을 미칠 수 없습니다. 통과 임계값은 스크립트 기반 앵커 정책을 기준으로 보정되었고, 보상은 다양한 보상 해킹 목록에 대비해 강화되었으며, 일련의 행동이 주어지면 모든 에피소드가 동일하게 재현됩니다. 본 연구에서는 추론 노력을 일치시킨 상태에서 세 가지 월드 시드에 걸쳐 30~45일 및 시뮬레이션된 1년 전체에 해당하는 11개 시나리오를 바탕으로 7개의 프론티어 LLM을 평가합니다. 평균적으로 스크립트 기반 스마트 트리아지(smart-triage) 정책에 필적하는 모델은 없었습니다. 최고 성능을 보인 DeepSeek-V4-Pro는 휴리스틱의 97% 대비 49%의 태스크-시드 셀을 통과했습니다. 동일한 도구와 예산을 사용하여 작업한 인간 전문가는 모든 모델보다 높은 점수를 기록했습니다(평균 종합 점수 0.708 대 0.700). Claude Code 하네스 기반의 시뮬레이션된 1년 전체에 걸쳐 대다수 모델은 극적인 성능 향상을 보입니다. GRPO 사후 학습 실행에서 서로 다른 5개의 태스크로만 학습된 Qwen3.5-27B는 홀드아웃(held-out) 평가 태스크에서의 평균 종합 점수를 0.136에서 0.373으로 향상시켰습니다. 본 연구에서는 학습 분할용 예시 태스크 5개, 샘플 궤적 10개, 점수 측정 및 검증 툴링을 공개하며, 벤치마크 오염을 방지하기 위해 전체 환경과 평가 스위트는 비공개로 유지합니다.

arXiv:2610.13455v1cs.AI공통 태그 Decision Making, llm agents

에이전틱 대규모 언어 모델

Agentic Large Language Models

대규모 언어 모델(LLM)은 전 세계적으로 큰 반향을 일으키고 있습니다. 인간의 언어로 소통하고 세상을 추론하는 능력 덕분에 LLM은 글쓰기, 질의응답 등 다양한 작업에 널리 활용되는 도구가 되었습니다. 모델이 제공하는 답변은 이미 우리의 결정과 행동에 영향을 미치고 있습니다. 만약 LLM이 세상에서 직접 행동할 수 있다면 어떻게 될까요? LLM끼리 서로 상호작용할 수 있다면 어떤 일이 일어날까요? 에이전틱 LLM은 대규모 언어 모델의 역량과 현실 세계에서 행동하는 능력을 결합합니다. 이 책에서는 에이전틱 LLM이 어떻게 작동하고, 행동하며, 상호작용하는지, 그리고 이것이 사용자로서 우리에게 무엇을 의미하는지 논의합니다.

arXiv:2610.13821v1cs.CL공통 태그 Decision Making, Hallucination

언어 모델은 언제 답변을 보류해야 하는지 학습할 수 있는가? 정책 학습과 보정된 답변 선택

Can Language Models Learn When to Abstain? Policy Learning and Calibrated Answer Selection

유용한 언어 모델은 언제 답변해야 하고 언제 "모른다"고 말해야 하는지 알아야 한다. 모델 자체를 학습시키거나 모델의 답변을 검증하는 별도의 구성요소를 학습시킴으로써 이러한 결정을 개선할 수 있을까? 우리는 사실 기반 질문에 대해 Qwen3-14B를 대상으로 두 가지 접근법을 모두 연구하며, 정답에는 보상을 주고 오답에는 벌점을 부과하며 답변 보류를 허용하는 점수를 사용한다. 세 가지 학습 시드와 두 가지 held-out 신뢰도 임계값(confidence threshold)에 걸쳐, 학습된 답변 선택기(answer selector)는 원래 모델의 보정된 신뢰도 필터(calibrated confidence filter)보다 임계값 평균 유용성(threshold-averaged utility)을 향상시킨다. TriviaQA에서 평균 커버리지(coverage)는 20.2%에서 30.9%로 증가하며, exact-match 채점 기준으로 점수가 매겨진 답변 중 통합 오류율(pooled error rate)은 23.0%에서 14.5%로 감소한다. 테스트된 강화학습(RL) 변경들은 일관된 성능 향상을 보이지 않는다. NQ-Open에서는 선택기가 필터보다 임계값 평균 유용성을 향상시키지만, 여전히 항상 답변을 보류하는 것보다 성능이 낮다. 부분적인 사람 검토 기반 감사(human-reviewed audit)에서도 TriviaQA에서의 결과는 유지된다. 우리의 결과는 이러한 설정에서 답변 선택을 학습하는 것을 지지하는 동시에, 데이터셋 전반에 걸친 신뢰할 수 있는 답변 보류(abstention)는 여전히 해결되지 않은 문제임을 보여준다.

arXiv:2609.34565v2cs.AI공통 태그 Decision Making, llm agents

FlowState: 장기 작업 대규모 언어 모델(LLM) 에이전트를 위한 메모리로서의 실행 상태

FlowState: Execution State as Memory for Long-Horizon LLM Agents

장기 작업(long-horizon tasks)을 수행하려면 대규모 언어 모델(LLM) 에이전트가 이전 상호작용의 정보를 지속적으로 활용해야 합니다. 그러나 전체 히스토리를 유지하면 컨텍스트 비용이 증가하는 반면, 이를 압축하면 나중에 필요한 세부 정보를 잃을 위험이 있으며, 과거 정보의 관련성은 작업이 진행됨에 따라 분명해지는 경우가 많습니다. 이러한 문제를 해결하기 위해, 요청 전반에 걸쳐 유지 및 재방문할 수 있는 메모리로 실행 상태를 다루어 현재의 의사결정과 과거 정보의 재사용을 통합하는 FlowState를 제안합니다. FlowState는 의미론적 유형이 지정된 상태 노드, 이들의 관계, 원시 도구 관측치에 대한 참조를 보존하여 지속적인 유지와 온디맨드 접근을 분리합니다. 단일 실행 루프 내에서 증분 상태 업데이트(ISU)는 새로운 입력과 피드백을 기반으로 현재 상태를 유지하고, 점진적 상태 접근(PSA)은 추론 중에 필요에 따라 과거 상태와 뒷받침하는 근거를 점진적으로 드러냅니다. 이러한 메커니즘은 에이전트가 새로운 정보에 비추어 이전 결정을 재평가하고 후속 조치를 안내할 수 있도록 지원합니다. 동일한 DeepSeek-V4-Flash 모델을 사용하는 전체 컨텍스트 기준선과 비교했을 때, FlowState는 MemoryArena의 평균 성공률과 $τ^3$-Bench의 평균 통과율을 각각 4.55%p 및 13.95%p 향상시키는 동시에 전체 토큰 소비량을 43.2% 및 40.6% 줄였습니다. 이러한 결과는 장기 작업에서 FlowState의 성능 및 효율성 이점을 입증합니다.

arXiv:2610.10629v1cs.AI공통 태그 Decision Making, llm agents

유일하게 변경 가능한 표면으로서의 하네스: 측정된 승인 게이트를 갖춘 신용 파이프라인 내 LLM 에이전트의 규제 준수 경계 자기 진화

The Harness as the Only Mutable Surface: Compliance-Bounded Self-Evolution of LLM Agents in Credit Pipelines, with a Measured Admission Gate

자기 개선형 대규모 언어 모델(LLM) 에이전트(agent)는 변경된 규칙에 맞춰 신용 파이프라인을 적응시킬 수 있지만, 스스로를 재작성하는 에이전트는 감독관이 검토해야 할 인공물인 명명된 변경 사항, 기록된 테스트, 승인 내역을 훼손합니다. 본 논문에서는 모델(model) 가중치를 고정한 채 런타임 하네스(지시문 텍스트, 도구 호출 로직, 원시 함수 구성)로만 자기 진화를 국한해야만 모든 적응이 원인 및 테스트가 첨부된 diff가 되어 검토 가능해진다고 주장합니다. 이러한 경계를 기반으로 구축되고 배포 전에 해시 체인 기록을 작성하는 하나의 승인 게이트를 갖춘 이중 루프 엔진을 제시하며, 언어 모델 대신 시뮬레이션된 에이전트와 시드 검색 제안기를 사용하여 시뮬레이션 환경에서 이 게이트를 측정합니다. 세 가지 심각도에 걸친 세 가지 유형의 감독 재해석에 대해 각각 10개의 시드를 적용한 결과, 게이트 루프는 7,449개의 후보 변경 사항 중 144개를 승인했으며, 이 중 홀드아웃된 이력 데이터에서 오류를 악화시킨 변경은 없었고, 모든 저심각도 및 중심각도 셀에서 미탐지 플래그를 증가시키지 않으면서 위양성률을 오라클 수준으로 복구했습니다. 게이트를 비제한적 시스템이 적용하는 검사(최근 트레이스에서 보이는 오류 감소)로 대체했을 때 동일한 루프가 309개의 유해한 변경을 승인했고 90회 실행 중 49회에서 미탐지 플래그가 10% 이상으로 유지되었습니다. 즉, 선별 기준이 느슨해졌기 때문에 위양성이 감소한 것이었습니다. 시프트 이전 라벨로 평가했을 때 게이트는 모든 후보를 거부했으므로, 재해석은 이력 데이터를 재라벨링하는 규칙으로 인코딩되어야 합니다. 모수적 시프트 및 범위 시프트는 국소적으로 복구되었으나 구조적 시프트는 원시 함수 교체로만 복구되었으며, 가장 높은 구조적 심각도에서는 게이트의 고정된 허용 오차로 인해 절반의 시드에서 올바른 교체가 차단되었습니다. 마지막으로 본 연구의 메커니즘을 고위험 신용 평가에 대한 EU AI 법의 조항에 매핑하고, 2026년 4월 미국 모델 위험 지침이 에이전트형 AI를 적용 범위에서 제외하고 있음을 언급합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.