PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2510.05107v5cs.AI

대규모 언어 모델 에이전트의 행동 지능을 위한 구조화된 인지 루프 (확장 개정: 행동 아키텍처에서 인식적 책임성까지)

Structured Cognitive Loop for Behavioral Intelligence in Large Language Model Agents (Extended Revision: From Behavioral Architecture to Epistemic Accountability)

AI 에이전트의 핵심 과제는 성능뿐만 아니라 책임성(accountability)입니다. 불투명한 프롬프트 시퀀스를 통해 행동하는 에이전트는 올바른 출력을 생성할 수 있지만, 행동이 허용된 이유, 오류가 발생한 위치, 또는 책임을 어떻게 할당해야 하는지를 검증할 근거를 거의 제공하지 않습니다. 본 논문은 대규모 언어 모델 에이전트의 책임 있는 행동을 위한 아키텍처로 구조화된 인지 루프(Structured Cognitive Loop, SCL)를 제시합니다. SCL은 인지(cognition), 기억(memory), 제어(control), 행동(action)을 별개의 모듈로 분리합니다. 언어 모델이 제안하고, 외부 메모리는 검증된 상태를 보존하며, 가벼운 컨트롤러는 도구가 사용되기 전에 전제 조건을 확인하고 중복된 행동을 방지하며 실행을 승인합니다. 우리는 여행 계획, 조건부 이메일 작성, 제약 조건 기반 이미지 생성에 걸쳐 SCL을 ReAct 및 일반적인 LangChain 에이전트 변형과 비교 평가했습니다. 360개의 에피소드에서 SCL은 프롬프트 기반 기준선(baseline)의 70.5%에서 76.8%에 비해 86.3%의 작업 성공률을 달성했습니다. 또한 목표 충실도(goal fidelity)를 개선하고, 중복 도구 호출을 줄이며, 중간 상태의 재사용을 늘리고, 근거 없는 주장을 감소시킵니다. 이 확장 개정판은 SCL을 인식적 책임성의 더 광범위한 아키텍처 내에 배치합니다. 후속 확장 기능은 문맥 인식 인간 루프 제어(Human in the Loop control), Pool Gated Retrieval, 및 Horizon Warrant Commitment 프레임워크를 통합합니다. 이러한 구성요소들이 함께 모델이 제안하고, 구조가 결정하며, 증거가 사용 전에 보증되고, 인간의 판단이 사후에 강요되는 것이 아니라 추적(trace) 내에 내장되는 에이전트 아키텍처를 정의합니다. 그 결과는 결정이 효과적일 뿐만 아니라 승인 가능하고, 검사 가능하며, 책임질 수 있는 AI 에이전트를 위한 기반이 됩니다.