에이전트는 개방적이고 동적인 환경에서 추론(Reasoning)과 행동(Acting)(ReAct)을 모두 수행할 수 있다는 점 때문에 주목이 크게 증가하고 있다. ReAct 프로세스는 일반적으로 다턴(turn) 궤적(trajectory)을 보이며, 그 안에서 대규모 언어 모델(LLM)을 구동하여 추론 사슬(reasoning chain)과 과제별 행동(action)을 교차(interleaved) 방식으로 생성한다. 그러나 에이전트는 종종 상당한 불확실성을 겪는다. 동일한 과제에도 서로 다른 궤적이 나오고, 불확실성이 더 큰 궤적은 이해하기 어려운 행동을 낳아 에이전트의 신뢰성을 심각하게 훼손한다. 본 연구는 이러한 궤적 수준의 불확실성이 LLM이 유발하는 턴 수준의 추론 불확실성이 누적된 결과인 경우가 많다고 가정한다. LLM은 후자에서 서로 갈라진 추론 사슬과 그에 따른 행동들의 분기(branch) 모음을 자주 보인다. 이를 바탕으로 ReAct의 불확실성 정량화를 위한 Graph-based Reasoning UncErtainty in Trajectories(GRUET) 방법을 제안한다. 이는 턴 수준 추론 불확실성 정량화와 궤적 수준 불확실성 집계로 구성된다. 전자는 잠재적 추론 분기가 펼치는 추론 공간을 그래프로 모델링한 뒤 그래프 복잡도로 추론 공간 복잡도를 근사하여 추론 불확실성을 정밀하게 정량화하고, 후자는 전체 궤적 신뢰도를 정량화하기 위해 단순한 집계 전략을 사용한다. 아홉 개 LLM과 다섯 벤치마크에 걸친 실증 평가에서 AUROC, AUPRC, AUARC로 측정한 선택적 생성(selective generation) 성능 측면에서 제안한 GRUET의 효과를 검증했다.
장기 지평 대규모 언어 모델(LLM) 에이전트는 조용히 실패할 수 있다: 초기에 증거에 대한 하나의 해석에 정착한 후, 나머지 실행 동안 이를 방어하는 데 집중한다. 우리는 이를 조기 고착(premature commitment)이라 부른다. 최종 답변 채점은 이 실패 유형을 포착하지 못하는데, 답변만을 볼 뿐 과정이 이미 안정적인 경로로 수렴했는지 여부는 보지 않기 때문이다. 우리는 표현적 고착(representational commitment)을 고정된 추론 단계에서의 실행 간 은닉 상태 수렴(convergence)으로 정의하고, 이를 궤적 일관성의 조기 진단 지표로 활용한다. HotpotQA에서 ReAct를 실행하는 Llama-3.1-70B에서, 4단계 은닉 상태 유사도는 하류 행동 일관성을 예측하며(r = -0.35, 편상관 r = -0.45), 국소적인 시간적·층(layer)별 시그니처를 보인다. 이 신호는 Qwen-2.5-72B 및 Phi-3-14B, 그리고 StrategyQA(r = -0.83)에서도 재현된다. 이 신호는 정확성을 추적하지 않는다: 잘못 고착된 질문과 올바르게 고착된 질문은 활성화 유사도에서 분리되지 않는다. 이 경계가 주장의 핵심이다. 고착은 에이전트가 정착했는지를 알려줄 뿐, 옳은지 여부는 알려주지 않는다. 런타임 모니터는 은닉 상태로부터 비일관적 궤적을 AUROC 최대 0.97(더 엄격한 분할에서는 0.85--0.88)로 탐지하며, 프롬프팅 개입은 토큰(token) 수 대응 제어 조건 대비 행동 분산을 28% 감소시키면서 정확도를 통계적으로 유의미하게 변화시키지 않는다. 또한 이 신호가 자기 일관성(self-consistency) 연산을 라우팅하는 데 활용될 수 있는지도 테스트하였으나, 더 어려운 벤치마크에서는 미미한 도움만 제공하며 더 단순한 출력 기반 기준선(baseline)에 의해 대등하게 맞춰진다. 결과적으로 이는 일반적인 정확도 향상 수단이 아니라, 명확한 한계를 지닌 숨겨진 프로세스 실패에 대한 진단 도구이다.
Structured Cognitive Loop for Behavioral Intelligence in Large Language Model Agents (Extended Revision: From Behavioral Architecture to Epistemic Accountability)
AI 에이전트의 핵심 과제는 성능뿐만 아니라 책임성(accountability)입니다. 불투명한 프롬프트 시퀀스를 통해 행동하는 에이전트는 올바른 출력을 생성할 수 있지만, 행동이 허용된 이유, 오류가 발생한 위치, 또는 책임을 어떻게 할당해야 하는지를 검증할 근거를 거의 제공하지 않습니다. 본 논문은 대규모 언어 모델 에이전트의 책임 있는 행동을 위한 아키텍처로 구조화된 인지 루프(Structured Cognitive Loop, SCL)를 제시합니다. SCL은 인지(cognition), 기억(memory), 제어(control), 행동(action)을 별개의 모듈로 분리합니다. 언어 모델이 제안하고, 외부 메모리는 검증된 상태를 보존하며, 가벼운 컨트롤러는 도구가 사용되기 전에 전제 조건을 확인하고 중복된 행동을 방지하며 실행을 승인합니다. 우리는 여행 계획, 조건부 이메일 작성, 제약 조건 기반 이미지 생성에 걸쳐 SCL을 ReAct 및 일반적인 LangChain 에이전트 변형과 비교 평가했습니다. 360개의 에피소드에서 SCL은 프롬프트 기반 기준선(baseline)의 70.5%에서 76.8%에 비해 86.3%의 작업 성공률을 달성했습니다. 또한 목표 충실도(goal fidelity)를 개선하고, 중복 도구 호출을 줄이며, 중간 상태의 재사용을 늘리고, 근거 없는 주장을 감소시킵니다. 이 확장 개정판은 SCL을 인식적 책임성의 더 광범위한 아키텍처 내에 배치합니다. 후속 확장 기능은 문맥 인식 인간 루프 제어(Human in the Loop control), Pool Gated Retrieval, 및 Horizon Warrant Commitment 프레임워크를 통합합니다. 이러한 구성요소들이 함께 모델이 제안하고, 구조가 결정하며, 증거가 사용 전에 보증되고, 인간의 판단이 사후에 강요되는 것이 아니라 추적(trace) 내에 내장되는 에이전트 아키텍처를 정의합니다. 그 결과는 결정이 효과적일 뿐만 아니라 승인 가능하고, 검사 가능하며, 책임질 수 있는 AI 에이전트를 위한 기반이 됩니다.
광 네트워크는 더 높은 수준의 자율성을 위한 핵심 요인인 의도 기반 폐루프 에이전트 관리가 필요합니다. 본 논문에서는 최초의 T-API 준수 추론 및 행동(ReAct) 루프를 제시합니다. 우리는 도메인 특화 복합 툴이 일반적 툴 대비 90%의 오라클 검증 정확도를 달성하면서 토큰 사용량을 3배 절감함을 보여줍니다.