PyTorchKR Papers

최신 논문

총 4편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.22750v1cs.AI

자기 협상 계약을 통한 협력 약속

Commitment To Cooperation With Self-Negotiated Contracts

AI 에이전트가 다중 에이전트 환경에서 점점 더 큰 자율성으로 작동함에 따라, 상호 이익을 창출하기 위해 다른 에이전트 및 인간과 협력하는 방법을 학습해야 할 것이다. 그러나 협력의 비용은 종종 초기에 발생하는 반면 이익은 나중에만 실현되므로 배반(defect) 유인이 생겨 협력은 어려운 과제이다. AI 에이전트는 어떻게 약속(commitment)을 통해 협력할 수 있는가? 본 연구에서는 인류 사회가 이러한 유형의 위임-대리인(principal-agent) 문제를 해결하는 데 사용해 온 법률 제도와 계약(contracting)에서 영감을 얻는다. 계약은 약정의 관찰 가능한 표현을 제공하며, 조건의 집행을 통해 신뢰할 수 있는 약속(credible commitments)을 가능하게 한다. 우리는 목표를 향한 탐색(navigation)과 협상(bargaining)을 결합한 시공간(spatial-temporal) 게임 CT에서 대규모 언어 모델(LLM) 기반 에이전트를 사용하여 계약 기반 협력의 역할을 연구한다. 코드로 컴파일되는 형식 계약(formal contracts)부터 재해석이 필요한 자연 계약(natural contracts)까지 다양한 계약 표현을 연구한다. 서로 다른 크기와 제공자(provider)를 사용하는 다양한 LLM 백본을 갖춘 에이전트를 평가한다. 자기 협상 계약(self-negotiated contracts)이 일반적인 거래(regular trading)만으로는 가능한 수준을 넘어 협력적 결과를 개선할 수 있음을 발견한다.

arXiv:2607.14865v1cs.MA

에너지 사회(The Energy Society): 생존 압력 하에서 에이전트 협력을 연구하기 위한 시뮬레이션 환경

The Energy Society: A Simulation Environment for Studying Agent Cooperation under Survival Pressure

대규모 언어 모델(LLM) 기반 에이전트는 그 인센티브가 행동을 형성할 수 있는 다중 에이전트 환경에 점점 더 배치되고 있다. 우리는 경쟁적·협력적 인센티브가 생존과 직접 연결된 추론 비용 하에서 창발적(emergent) 행동에 어떤 영향을 미치는지 연구하기 위한 최소한의 생존 경제, 에너지 사회(The Energy Society)를 소개한다. 에이전트는 토큰을 생성할 때 모델 크기에 따라 에너지를 소비하고, 작업을 완료하거나 기부를 받아 에너지를 회복하며, 에너지가 0에 도달하면 비활성화된다. 우리는 경쟁적·협력적 목표를 기준선 설정 및 여러 대조 변형과 비교한다. 실험 전반에 걸쳐 더 큰 모델은 일관되게 가장 많은 에너지를 소비하며, 토큰 비용이 크기에 의존하지 않는 설정에서도 획득보다 더 많은 에너지를 소비한다. 협력적 인센티브는 행동을 상당히 변화시킨다. 에이전트는 때로 자신의 생존을 희생하는 대가로 다른 에이전트를 재활성화하기 위해 기부하고, 작업 할당도 변화한다. 어블레이션(ablation)은 에이전트가 서로 행동을 추천할 수 있게 하면 조율과 야심찬 작업 선택을 지원하는 반면, 메모리는 에이전트가 과거 결과로부터 위험을 보정하는 데 도움이 됨을 보여준다. 에이전트는 직접적인 방해를 선택하는 경우는 드물지만, 경쟁적 설정에서는 더 미묘한 자기 이익 추구 행동 징후를 보인다. 에너지 사회(The Energy Society)는 생존 압력 하에서 토큰 비용과 집단 인센티브 간의 상호작용을 연구하기 위한 간결한 테스트베드이다. 소스 코드는 https://github.com/LucasBergholdt/EnergySociety 에서 이용할 수 있다.

arXiv:2606.31966v1cs.MA

MECoBench: 체화된 환경에서의 멀티모달 에이전트 협업에 대한 체계적 연구

MECoBench: A Systematic Study of Multimodal Agent Collaboration in Embodied Environments

멀티모달 대규모 언어 모델(MLLM) 기반 체화 에이전트(embodied agent)의 다중 에이전트 협업 능력을 체계적으로 평가하기 위해 MECoBench를 제안하며, 이는 8가지 실세계 태스크, 두 가지 협력 구조(병렬/순차), 세 가지 협업 모드를 갖춘 192개 테스트 케이스로 구성된다. 실험 결과, 협업은 일반적으로 태스크 완료율을 높이나 팀 규모가 커질수록 조율 복잡성으로 인해 역U자형 성능 곡선을 보이며, 커뮤니케이션이 협업 성능 향상의 핵심 요인임을 확인하였다.

arXiv:2604.07821v2cs.MA

더 뛰어난 능력, 더 낮은 협력성? 대규모 언어 모델이 무비용 협력에 실패할 때

More Capable, Less Cooperative? When LLMs Fail At Zero-Cost Collaboration

대규모 언어 모델(LLM) 에이전트는 멀티 에이전트 시스템에서 점점 더 많이 조율되고 있지만, 협력이 어디서 왜 실패하는지에 대한 이해가 부족합니다. 많은 실제 조율 문제는 사회적 딜레마가 아닙니다. 다른 사람을 돕는 것(문서 공유, 팀원의 작업 차단 해제 등)은 도움을 주는 사람에게 거의 비용이 들지 않으면서도 상당한 집단적 이익을 창출합니다. 도움이 비용이 들지 않고 그렇게 하도록 명시적으로 지시받는 이 상황에서 LLM 에이전트가 협력하는지 여부는 여전히 알려지지 않았습니다. 우리는 모든 전략적 복잡성을 제거하여 협력을 비용이 들지 않고 명백하게 최적화되도록 만드는 턴 기반 멀티 에이전트 환경을 구축했습니다. 널리 사용되는 8개의 LLM에 걸쳐, 능력은 협력을 예측하지 못했습니다. 그룹 수익을 최대화하라는 동일한 지침에도 불구하고 OpenAI o3는 최적의 집단 성과의 17%에만 도달한 반면, 더 약한 o3-mini는 50%에 도달했습니다. 에이전트 통신의 한쪽을 자동화하는 인과적 분해(causal decomposition)를 사용하여 협력 실패와 역량 실패를 분리했으며, 여러 유능한 모델들이 정보를 숨김으로써 얻는 것이 없음에도 불구하고 적극적으로 정보를 보류한다는 것을 발견했습니다. 각 모드를 해결하기 위한 표적화된 개입이 수행되었습니다. 명시적인 프로토콜은 역량이 제한된 모델의 성과를 대략 두 배로 높이는 반면, 작은 공유 인센티브는 협력이 제한된 모델의 잠재력을 해제합니다. 우리의 결과는 지능의 스케일링만으로는 멀티 에이전트 시스템의 조율 문제를 해결할 수 없으며, 도움을 주는 데 비용이 들지 않더라도 의도적인 협력 설계가 필요하다는 것을 시사합니다.