PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.01415v1cs.AI

메모리를 넘어서: 명시적 신념 상태를 활용한 장기적 에이전트 제어

Beyond Memory: Harnessing Long-Horizon Agents with Explicit Belief States

대규모 언어 모델(LLM) 에이전트(agent)는 점점 더 복잡한 작업을 수행할 수 있게 되었지만, 상호작용 이력을 메모리로 구성하는 기존 방식은 현재 세계에 대한 일관된 이해를 보장하지 못합니다. 본 논문에서는 에이전트의 의사결정 맥락으로서 명시적 신념 상태(belief state)를 구성하고 지속적으로 유지하는 추론(inference) 시점 프레임워크인 PoS를 소개합니다. 각 신념은 현재 세계 상태에 대한 추정과 미해결된 작업 요구사항을 결합하여, 에이전트가 여전히 무엇을 학습하고 달성해야 하는지를 명시화합니다. 이러한 신념을 신뢰할 수 있고 실행 가능한 상태로 유지하기 위해, PoS는 일관성을 검증(validation)하고 작업 진행 상황을 모니터링하여 에이전트가 목표를 향한 유의미한 진전 없이 행동을 지속하는 '신념 갇힘(Belief Trapping)' 현상을 감지합니다. 이후 갇힘 패턴과 미해결된 작업 요구사항의 유형 모두에 맞추어 복구가 이루어집니다. 실행 및 진단을 아우르는 4개의 벤치마크(benchmark)에 걸친 실험 결과, PoS는 세 가지 LLM 백본 모두에서 모든 벤치마크에 걸쳐 가장 높은 종합 성능을 달성함을 보여줍니다. 소거 연구(ablation)를 통해 일관성 검증과 복구의 중요성을 입증하였으며, 문맥 스케일링(context-scaling) 실험에서는 문맥 증가에 대한 견고성을 확인했습니다. 종합적으로 이러한 결과는 단순한 이력 유지 및 압축을 넘어, 장기적(long-horizon) 문맥 관리의 기반으로서 신념 구성과 지속적 유지의 유효성을 뒷받침합니다.

arXiv:2606.31916v1cs.CL

마음 이론과 대화를 넘어선 설득: 계획과 행동을 통해 신념 상태를 유도하는 LLM의 역량 평가

Theory of Mind and Persuasion Beyond Conversation: Assessing the Capacity of LLMs to Induce Belief States via Planning and Action

NCP-ExploreToM 프레임워크를 통해 대화적 설득이 아닌 행동 계획으로 다른 에이전트의 신념 상태를 유도하는 비대화적 계획 마음 이론(NCP-ToM) 능력을 최초로 평가한 연구로, GPT-5, Gemini 2.5 Pro, Claude 4 시리즈 등 6개 최신 모델을 600개 과제에서 평가한 결과 GPT-5만이 인간 참가자를 능가하였으며 모든 모델이 거짓 신념보다 참 신념 유도 과제에서 더 높은 성능을 보였다. 이는 자율 에이전트의 사회적 추론 역량이 창발적으로 나타나고 있음을 보여주는 동시에, 안전성과 정렬 평가에서 에이전트 기반 벤치마크의 필요성을 강조한다.