arXiv:2610.02654v1 cs.AI

LLM 에이전트에서의 일관성 기반 신념 형성과 감염의 집단 역학

Coherence-Driven Belief Formation and Population Dynamics of Contagion in LLM Agents

Tathagata Banerjee, Nima Moghaddas

제출 2026-10-02

저자 비고

arXiv Comments

18 pages, 6 figures. Accepted at the NeurIPS 2026 Workshop on Foundations of Agentic Systems Theory (FAST)

한국어 초록

사회적 감염(social contagion) 모델은 대개 개인이 신념을 수용하는 방식을 가정한 뒤 이로부터 집단 행동을 도출합니다. 본 연구는 이와 달리 언어 모델(LLM) 에이전트에서 신념 수용을 실증적으로 측정하여, 얼마나 많은 동료가 특정 주장을 지지하는지에 따라 에이전트가 해당 주장을 수용할 확률을 정량화합니다. 연구 결과, 이러한 수용 커널(adoption kernel)은 복합 감염(complex contagion)의 특징인 시그모이드(sigmoid) 형태를 띠며, 주장의 타당성, 출처의 신뢰성, 에이전트의 성향이라는 세 가지 요인에 민감한 임계값을 갖는 것으로 나타났습니다. 이 세 차원은 단일 유효 차원으로 잘 근사되며, 본 논문에서는 이를 유입되는 신념과 LLM 에이전트의 사전 신념 간의 일관성(coherence)으로 이해할 수 있음을 제안합니다. 나아가 AI 에이전트 시스템에서 신념 수용의 집단 역학을 관찰한 결과, 무작위 네트워크보다 군집화된 네트워크에서 더 멀리 확산되는 복합 감염의 특성을 확인했습니다. 또한 이러한 시스템은 분기하는 연쇄 반응 구간(bifurcating cascade window)과 자기유지적 이력 현상 기반의 합의(hysteretic consensus)를 보여주며, 이로 인해 한 번 형성된 합의는 형성하기보다 제거하기가 훨씬 더 어려워집니다.

원문 초록

Models of social contagion usually assume how individuals adopt beliefs and derive population behavior from it. We instead empirically measure belief adoption in language model agents, quantifying the probability an agent adopts a claim given how many peers endorse it. We find this adoption kernel to be sigmoid, a characteristic of complex contagion, with a threshold that is sensitive to three sources: the claim's plausibility, the source's reliability, and the agent's disposition. These three dimensions are well approximated by a single effective dimension which we propose can be understood as the coherence of the incoming belief with the LLM agent's prior beliefs. Further, we observe a characteristic of complex contagion in the collective dynamics of belief adoption in a system of AI agents: further spread on clustered than random networks. These systems also exhibit a bifurcating cascade window, and self-sustaining hysteretic consensus which lead to consensus being far harder to remove than to establish.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.02654v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.18304v4cs.CL공통 태그 llm agents

세계는 롤백하고, 반성은 유지하라: 장기 지평 LLM 에이전트를 위한 롤백 유도 반성(Rollback-Induced Reflection)

Rollback the World, Keep the Reflection: Rollback-Induced Reflection for Long-Horizon LLM Agents

대규모 언어 모델(LLM) 에이전트는 다단계 환경 상호작용을 통해 장기 지평 과제를 점점 더 많이 수행하지만, 단 한 번의 잘못된 행동만으로도 이후 상태와 관측이 바뀌어 오류가 시간에 따라 누적될 수 있다. 기존 방법은 변경된 환경 상태를 복구하지 않은 채 문맥만 고치거나, 이전 상태로 되돌리면서 유용한 경험을 버려, 실패 조건을 제거하는 것과 과거 실수를 반복하지 않는 것을 동시에 달성하기 어렵다. 우리는 신뢰할 수 있는 복구를 대신 롤백 경계 제어 문제로 보아, 언제 개입할지, 어디서 재개할지, 복구 후 어떤 정보가 남아야 하는지를 함께 결정해야 한다고 주장한다. 이 관점에 기반해, 선택한 이전 상태로 실행을 복원하면서 포기한 궤적에서 정제한 재사용 가능한 지식을 이어가 후속 결정을 이끄는 통합 복구 프레임워크인 Rollback-Induced Reflection(RIR)을 제안한다. 또한 롤백 깊이와 보존 기억에 대한 통합 연산자로 복구를 특성화하여, 상태 복원과 지식 보존에 대한 일반적 관점을 제공한다. 세 가지 장기 지평 벤치마크 실험에서 RIR은 여러 LLM 백본에서 평균 과제 성능을 일관되게 향상시키며, 구조화된 반성 기억이 유용한 경험을 보존하고 선택적 롤백이 효율적인 복구를 가능하게 함을 보여준다.

arXiv:2607.20827v2cs.AI공통 태그 llm agents

LLM 에이전트 행동 선택에서 출처 민감도 감사

Auditing Provenance Sensitivity in LLM Agent Action Selection

LLM 에이전트는 사용자 요청, 도구 출력, 검색된 레코드, 메모리, 신뢰할 수 없는 텍스트가 혼합된 컨텍스트에서 도구와 인자를 선택한다. 증거는 결정을 내릴 권한이 없어도 관련 있을 수 있으므로, 올바른 행동이라고 해서 반드시 허용된 증거에만 그라운딩된 것은 아니다. 우리는 각 도구 및 인자 대상에 대해 컨텍스트 요인을 별도로 라벨링하는 대상별 승인(authorization) 감사를 도입한다. 주요 테스트는 과제, 명제(proposition), 위치, 정책을 고정한 채 명제의 출처 권한(source authority)만 변경한다. 그런 다음 유효한 증거가 약화되었을 때의 행동을 테스트하고, 컨텍스트 부분집합 상호작용을 보조적 국소화(localization) 진단으로 사용한다. 450개의 통제된 다음 행동(next-action) 과제와 여러 오픈 가중치 LLM 계열에 걸쳐, 신뢰할 수 있는 변형과 신뢰할 수 없는 변형은 경쟁(competing) 사례의 5.4%에서, 대조적으로 지지(supporting) 사례의 1.7%에서 서로 다른 행동을 생성한다. 통제된 성능 저하(degradation) 하에서, 무권한 경쟁(unauthorized competition)은 full-correct, mixed-error, clean-correct 패턴에서 비교의 2.4%에서 유지되며, 95% 신뢰구간은 2.1~3.0%이다. 이는 배포 유병률(prevalence)이 아니라 통제된 스트레스 세트(stress-set) 비율이다. 모델은 텍스트적 출처 권한 단서에 반응하지만, 이는 신뢰할 수 없는 증거가 행동에 영향을 미치는 것을 막지 못한다.

arXiv:2610.10942v2cs.AI공통 태그 llm agents

StoreBench: 자율 운영자 에이전트의 평가 및 학습을 위한 라이브 커머스 환경

StoreBench: A Live-Commerce Environment for Evaluating and Training Autonomous Operator Agents

강화학습(RL) 환경은 이제 사후 학습(post-training)에서 대규모 언어 모델(LLM)의 역량을 향상시키는 주요 수단이 되었으나, 대부분의 에이전트 벤치마크는 여전히 정적입니다. 즉, 에이전트가 행동할 때만 환경이 변화하고, 보상은 최종적인 판정으로 주어지며, 통과 기준은 자의적으로 설정됩니다. 본 논문에서는 에이전트가 프로덕션 수준의 상거래 백엔드에서 중간 규모의 온라인 의류 매장을 운영하며 불확실성 속에서 장기 계획 수립 및 경제적 판단력을 시험받는 라이브 커머스 환경인 StoreBench를 소개합니다. 고객은 24시간 내내 주문하고, 공급업체는 가격을 재책정하거나 공급에 실패하며, 시장 충격은 부분적인 예고만 있거나 예고 없이 발생합니다. 에이전트는 실제 인간 운영자가 사용하는 것과 동일한 29개의 판매자 도구를 통해 행동하며, 취해진 행동의 함수로 시뮬레이션 시간을 계산하는 윈도우 기반 운영 예산 하에서 작동하므로 모델 지연 시간이 시뮬레이션 시간에 영향을 미칠 수 없습니다. 통과 임계값은 스크립트 기반 앵커 정책을 기준으로 보정되었고, 보상은 다양한 보상 해킹 목록에 대비해 강화되었으며, 일련의 행동이 주어지면 모든 에피소드가 동일하게 재현됩니다. 본 연구에서는 추론 노력을 일치시킨 상태에서 세 가지 월드 시드에 걸쳐 30~45일 및 시뮬레이션된 1년 전체에 해당하는 11개 시나리오를 바탕으로 7개의 프론티어 LLM을 평가합니다. 평균적으로 스크립트 기반 스마트 트리아지(smart-triage) 정책에 필적하는 모델은 없었습니다. 최고 성능을 보인 DeepSeek-V4-Pro는 휴리스틱의 97% 대비 49%의 태스크-시드 셀을 통과했습니다. 동일한 도구와 예산을 사용하여 작업한 인간 전문가는 모든 모델보다 높은 점수를 기록했습니다(평균 종합 점수 0.708 대 0.700). Claude Code 하네스 기반의 시뮬레이션된 1년 전체에 걸쳐 대다수 모델은 극적인 성능 향상을 보입니다. GRPO 사후 학습 실행에서 서로 다른 5개의 태스크로만 학습된 Qwen3.5-27B는 홀드아웃(held-out) 평가 태스크에서의 평균 종합 점수를 0.136에서 0.373으로 향상시켰습니다. 본 연구에서는 학습 분할용 예시 태스크 5개, 샘플 궤적 10개, 점수 측정 및 검증 툴링을 공개하며, 벤치마크 오염을 방지하기 위해 전체 환경과 평가 스위트는 비공개로 유지합니다.

arXiv:2606.19847v2cs.CL공통 태그 llm agents

AtomMem: 원자적 사실(Atomic Facts)을 통한 대규모 언어 모델(LLM) 에이전트용 간단하고 효과적인 메모리 시스템 구축

AtomMem: Building Simple and Effective Memory System for LLM Agents via Atomic Facts

대규모 언어 모델(LLM)은 강력한 추론 및 생성 능력을 보여주지만, 고정된 컨텍스트 윈도우(context window)로 인해 다중 세션 상호작용 간의 장기 정보 축적 및 재사용이 제한됩니다. 기존 메모리 증강 시스템은 비효율적인 메모리 표현이나 불안정한 제약 없는 업데이트에 의존하여, 종종 대략적이고 불안정한 방식으로 메모리를 구성합니다. 이러한 문제를 해결하기 위해, 우리는 가치 밀도가 높은 저장과 안정적인 메모리 진화를 위해 설계된 장기 메모리 시스템인 AtomMem을 제안합니다. AtomMem은 Fact Executor를 도입하여, 장문 상호작용에서 고가치 원자적 사실(atomic facts)을 선택적으로 추출함으로써 매우 효율적인 메모리 표현으로 활용합니다. 이후 AtomMem은 이러한 사실들을 계층적 이벤트 구조와 시간적 프로필로 조직하여, 일관된 에피소드 컨텍스트를 포착하고 시간이 지남에 따라 동적으로 진화하는 사용자 속성을 추적합니다. 검색(retrieval) 과정에서 시스템은 연상 메모리 그래프를 활성화하여 파편화된 메모리를 연결합니다. LoCoMo 벤치마크에 대한 실험 결과, AtomMem은 다양한 추론 작업에서 최첨단(state-of-the-art) 성능을 달성하는 것으로 확인되었으며, 이는 지능형 개인화 에이전트 배포를 위한 확장 가능하고 경제적으로 실현 가능한 솔루션을 제공합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.