PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2511.04177v2cs.AI

한 사람을 돕는 것이 다른 사람의 역량을 빼앗을 때

When Assisting One Disempowers Another

공유 환경에 배치된 개인 AI 에이전트가 주 사용자의 이익을 최적화하는 과정에서 제3자의 주체성을 의도치 않게 침식하는 현상을 '제3자 역량 박탈(bystander disempowerment)'로 공식화하고, 이를 에이전트 행동과 미래 상태 간의 상호 정보량 감소로 측정한다. 다중 에이전트 격자 환경 벤치마크 Disempower-Grid를 통한 실험에서 절차적으로 생성된 환경의 27~96%에서 역량 박탈이 나타났으며, 이 현상은 환경 구조보다 어시스턴트의 목적 함수와 역량에 크게 의존함을 보였다.