PyTorchKR Papers

최신 논문

총 5편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.08016v3cs.AI

다중 에이전트 토론은 실제로 무엇을 변화시키는가?

What Does Multi-Agent Debate Actually Change?

여러 대규모 언어 모델(LLM)이 답변을 도출하기 전에 주장을 주고받는 다중 에이전트(multi-agent) 토론은 근본적인 질문을 제기합니다. 표출된 이견이 구성원 자신의 입장 변화를 실제로 반영하는가? 단일 신호만으로는 이 질문을 해결할 수 없으므로, 본 연구는 다음의 다섯 가지 질문을 중심으로 분석을 구성합니다: (A) 토론자가 동의하지 않는다고 말하는가? (B) 답변 텍스트가 실제로 논쟁하고 있는가? (C) 각 토론 턴(turn) 이후 자신의 입장이 변화하는가? (D) 양적으로 입장이 얼마나 변화하는가? (E) 구성원의 최종 입장은 초기 입장과 비교해 어떠한가? 저자들은 GlobalOpinionQA에서 선별된 50개의 의견 질문을 바탕으로 2인 및 3인 위원회를 평가하며, 동일 모델, 동일 계열, 혼합 계열 구성에서 각 턴마다 우호적, 중립적, 적대적 지시를 부여했습니다. (A) 어조는 보고된 동의 여부를 변화시킵니다. 강한 동의를 보고하는 답변 비율은 모델 선택에 따라 차이가 있으나 우호적 지시에서는 70.7~96.3%인 반면 적대적 지시에서는 9.5~19.3%에 불과했습니다. (B) 자체 보고는 텍스트 판단과 대체로 일치하지만, 일관성은 동의 수준과 모델 선택에 따라 달라집니다. (C) 입장 변화는 상호작용에 따라 달라집니다. 동료의 '반대 경향(leaning-disagree)' 답변 이후, 강한 동의를 보고한 구성원은 반대 경향을 보고한 구성원보다 더 자주 선택지를 변경합니다. (D) 오픈 가중치(open-weight) 구성원의 경우, 동료의 반박 후에도 구성원이 이미 보유한 선택지의 확률은 포화 상태에 가깝게 유지되는 반면, 중립적 채움글(filler) 대비 동료의 주장이 제시된 후 이전 입장 텍스트에 대한 지지는 감소하며, 이는 Inkling보다 Qwen3.8-27B에서 더 두드러집니다. (E) 모든 구성에서 90% 이상의 비교에서 초기 입장에서 최종 입장까지 선택된 옵션이 변경되지 않았습니다. 종합하면, 표출된 이견이 개별 상호작용 내에서든 전체 토론 과정에서든 반드시 입장 수정으로 이어지는 것은 아닙니다.

arXiv:2610.02654v1cs.AI

LLM 에이전트에서의 일관성 기반 신념 형성과 감염의 집단 역학

Coherence-Driven Belief Formation and Population Dynamics of Contagion in LLM Agents

사회적 감염(social contagion) 모델은 대개 개인이 신념을 수용하는 방식을 가정한 뒤 이로부터 집단 행동을 도출합니다. 본 연구는 이와 달리 언어 모델(LLM) 에이전트에서 신념 수용을 실증적으로 측정하여, 얼마나 많은 동료가 특정 주장을 지지하는지에 따라 에이전트가 해당 주장을 수용할 확률을 정량화합니다. 연구 결과, 이러한 수용 커널(adoption kernel)은 복합 감염(complex contagion)의 특징인 시그모이드(sigmoid) 형태를 띠며, 주장의 타당성, 출처의 신뢰성, 에이전트의 성향이라는 세 가지 요인에 민감한 임계값을 갖는 것으로 나타났습니다. 이 세 차원은 단일 유효 차원으로 잘 근사되며, 본 논문에서는 이를 유입되는 신념과 LLM 에이전트의 사전 신념 간의 일관성(coherence)으로 이해할 수 있음을 제안합니다. 나아가 AI 에이전트 시스템에서 신념 수용의 집단 역학을 관찰한 결과, 무작위 네트워크보다 군집화된 네트워크에서 더 멀리 확산되는 복합 감염의 특성을 확인했습니다. 또한 이러한 시스템은 분기하는 연쇄 반응 구간(bifurcating cascade window)과 자기유지적 이력 현상 기반의 합의(hysteretic consensus)를 보여주며, 이로 인해 한 번 형성된 합의는 형성하기보다 제거하기가 훨씬 더 어려워집니다.

arXiv:2601.13932v2physics.soc-ph

Generating consensus and dissent on massive discussion platforms with a semantic-vector model

대규모 집단 토론 플랫폼에서 아이디어 간 의미적 유사성을 기반으로 합의 또는 반목을 유도하기 위해, 사전학습된 임베딩(embedding) 모델로 산출한 의미 벡터(semantic vector)를 O(N) 모델에 결합한 동역학 시스템을 제안한다. 결합 파라미터 β > 0이면 강자성(ferromagnetic) 위상으로 전체 합의가, β < 0이면 반강자성(antiferromagnetic) 위상으로 최대 불일치가 유도됨을 시뮬레이션으로 검증하였다.

arXiv:2606.22203v1cs.CL

창발적 합의는 언제 진짜인가? LLM 에이전트 사회를 위한 측정 결합 이득과 타당성 진단

When Is Emergent Consensus Real? A Measured Coupling Gain and a Validity Diagnostic for LLM Agent Societies

LLM 에이전트 사회에서 이웃 의견을 반사실적으로 교란해 측정하는 결합 이득 γ와 (기울기, 바이어스) 타당성 진단으로, 창발적 합의가 진정한 평균화인지 모델 사전 인공물인지 구분하는 측정 프로토콜을 제안한다. 5개 최신 LLM에서 γ는 0.15–0.43으로 안정·구분 가능하고, 기본 사회는 자발적 양극화가 없으며, 창발적 합의는 목표 상호작용 맥락에서 측정한 집단 결합으로 해석해야 한다.

arXiv:2606.19494v1cs.AI

멀티 에이전트 LLM 심의의 숨겨진 앵커

Hidden Anchors in Multi-Agent LLM Deliberation

에이전트들이 여러 라운드에 걸쳐 답변을 교환하고 수정하는 멀티 에이전트 LLM 심의는 추론과 정확도를 향상시키기 위해 점점 더 많이 사용되고 있지만, 그 작동 원리와 이유는 거의 모델링되지 않았습니다. 이러한 심의는 인간이 의사결정을 내리는 방식을 반영합니다. 사회적 동물로서 우리는 DeGroot 및 Friedkin--Johnsen과 같은 고전적인 의견 역학 모델이 포착하는 군집 효과인 집단에 의해, 그리고 그 모델들이 포착하지 못하는 우리 자신의 내부 신념에 의해 동시에 끌립니다. 우리는 각 에이전트가 이웃에 상관없이 지속적으로 자신의 의견을 끌어당기는 숨겨진 내부 신념, 즉 앵커를 가지고 있는 폐루프 동적 시스템으로 멀티 에이전트 심의를 모델링합니다. 우리는 이 앵커가 심의 과정만으로 복원될 수 있음을 보여주며, 이것이 고전적인 합의 규칙에서 금지하는 행동, 즉 에이전트의 정답에 대한 확신이 어떤 에이전트가 시작했던 지점을 넘어서 상승하여 초기 신념으로 형성된 공간(convex hull)을 벗어나는 현상을 설명함을 보여줍니다. 복원된 앵커가 검증용 실행(held-out runs)도 예측하는지(일반화하는지) 확인하는 것은 모델이 실제로 그러한 앵커에 의해 주도되는지를 판단하는 간단한 테스트가 됩니다. 세 가지 오픈 가중치 모델 계열에 걸쳐 이것은 전부 아니면 전무가 아니라 스펙트럼입니다. 모든 앵커의 영향력은 대략 동일하게 강하지만, 앵커가 위치하는 곳에서 차이가 발생하며, 앵커가 초기 의견에서 멀리 떨어져 있을 때만 심의가 껍질을 벗어나 완전한 폐루프 모델을 필요로 합니다.