arXiv:2407.19634

Evolution of cooperation with Q-learning: the impact of information perception

Guozhong Zheng, Zhenwei Ding, Jiqiang Zhang, Shengfeng Deng, Weiran Cai, Li Chen

제출 2024-07-29

원문 초록

The inherent complexity of human beings manifests in a remarkable diversity of responses to intricate environments, enabling us to approach problems from varied perspectives. However, in the study of cooperation, existing research within the reinforcement learning framework often assumes that individuals have access to identical information when making decisions, which contrasts with the reality that individuals frequently perceive information differently. In this study, we employ the Q-learning algorithm to explore the impact of information perception on the evolution of cooperation in a two-person Prisoner's Dilemma game. We demonstrate that the evolutionary processes differ significantly across three distinct information perception scenarios, highlighting the critical role of information structure in the emergence of cooperation. Notably, the asymmetric information scenario reveals a complex dynamical process, including the emergence, breakdown, and reconstruction of cooperation, mirroring psychological shifts observed in human behavior. Our findings underscore the importance of information structure in fostering cooperation, offering new insights into the establishment of stable cooperative relationships among humans.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2606.18111v1cs.LG공통 태그 Diversity, Q-Learning

다목표 강화학습에서 공정한 파레토 최적 정책 학습

Learning Fair Pareto-Optimal Policies in Multi-Objective Reinforcement Learning

공정성은 다목표 강화학습(MORL)에서 의사결정의 중요한 측면이며, 정책은 여러 상충할 수 있는 목표에 걸쳐 최적성과 형평성을 모두 보장해야 한다. 단일 정책 MORL 방법은 일반화 지니 복지 함수(GGF)와 같은 복지 함수를 사용하여 고정된 사용자 선호에 대한 공정한 정책을 학습할 수 있지만, 동적이거나 알려지지 않은 사용자 선호에 필요한 다양한 정책 집합을 제공하지 못한다. 이 한계를 해결하기 위해, 우리는 다정책 MORL에서 공정 최적화 문제를 공식화하며, 여기서 목표는 모든 가능한 사용자 선호에 걸쳐 공정성을 보장하는 파레토 최적 정책 집합을 학습하는 것이다. 핵심 기술적 기여는 세 가지이다: (1) 오목하고 조각선형 복지 함수(예: GGF)에 대해, 공정 정책이 선형 스칼라화에 대한 근사 파레토 전선인 볼록 커버리지 집합(CCS)에 남아 있음을 보인다. (2) 누적 보상 이력으로 보강된 비정상성(non-stationary) 정책과 확률적 정책이 역사적 불평등에 동적으로 적응함으로써 공정성을 향상시킴을 입증한다. (3) GGF를 다정책 다목표 Q-학습(MOQL)에 통합하는 것, 비정상성 정책 학습을 위한 상태 증강 다정책 MOQL, 그리고 확률적 정책 학습을 위한 새로운 확장을 포함하는 세 가지 새로운 알고리즘을 제안한다. 우리는 다양한 도메인에서 알고리즘을 평가하고 방법을 최신 MORL 기준선과 비교한다. 실험 결과는 우리 방법이 서로 다른 사용자 선호를 수용하는 공정 정책 집합을 학습함을 보여준다.

arXiv:2605.25796v4cs.CR공통 태그 Diversity

SAMark: 단락 수준 패러프레이즈 견고성을 갖춘 자기 고정(self-anchored) 텍스트 워터마킹

SAMark: A Self-Anchored Text Watermarking with Paragraph-Level Paraphrase Robustness

의미 수준 워터마킹(SWM)은 문장을 기본 단위로 취급하여 텍스트 수정에 대한 견고성을 향상시킨다. 그러나 단락 수준 패러프레이즈(paraphrasing)에 대한 견고성은 여전히 어려운 문제로 남아 있다. 이러한 공격은 문장 순서를 변경함으로써 워터마크 신호를 전역적으로 교란하기 때문이다. 본 연구에서는 SAMark를 제안한다. 이는 의미 공간(semantic space)에 단계 독립적(step-independent) green region을 설정함으로써 문장 순서에 대한 의존성을 제거하는 자기 고정(self-anchored) 워터마킹 프레임워크이다. 탐지성(detectability)을 향상시키기 위해, 워터마크 신호를 증폭하면서 약하게 정렬(aligned)된 후보에서 발생하는 노이즈를 억제하는 다채널 쌍곡(hyperbolic) 스코어링 메커니즘을 도입한다. 또한 단순 n-gram 반복 필터를 넘어 의미적 중복(semantic redundancy)을 다루기 위해 hard filtering과 soft 정규화(regularization)를 결합한 다양성 인식(diversity-aware) 필터링 전략을 제안한다. 실험 결과, SAMark는 일반적인 단락 수준 패러프레이즈 공격 하에서 최대 90.2% TP@FP1%를 달성하며, 평균적으로 가장 강력한 선행 기준선(baseline)보다 30% 이상 우수한 성능을 보인다. 동시에 워터마크가 없는 텍스트와 경쟁할 만한 생성 품질을 유지하며, 기존 방법을 제한하던 견고성-품질 트레이드오프(robustness-quality trade-off)를 깬다. 코드는 https://github.com/Z1zs/SAMark 에서 공개될 예정이다.

arXiv:2606.03021v5cs.CL공통 태그 Diversity

LLM 추론을 위한 힌트 유도 다양화 정책 최적화

Hint-Guided Diversified Policy Optimization for LLM Reasoning

최근 대규모 언어 모델(LLM)의 발전은 인상적인 추론 능력을 보여주었으며, 검증 가능한 보상을 활용한 강화학습(RLVR)은 유망한 성능 향상 전략으로 주목받고 있다. 그러나 기존 보상 메커니즘은 결과 수준의 정확성에 국한되어 있어, 모델이 다양한 해법을 고려하도록 유도하는 명시적인 신호가 부족하다. 대조적으로, 인간의 문제 해결은 일반적으로 여러 잠재적 접근법을 평가하고 가장 신뢰할 수 있는 해법을 선택하는 과정을 거치지만, 현재의 RLVR 프레임워크는 이러한 인지 과정을 명시적으로 유도하지 않는다. 이에 영감을 받아, 본 연구에서는 모델이 먼저 모든 잠재적 후보 해법의 개요를 힌트로 나열한 다음 추가 추론을 위해 가장 신뢰할 수 있는 해법을 선택하도록 하는 힌트 유도 다양화 정책 최적화(HDPO)를 제안한다. HDPO는 구조화된 추론을 위한 콜드 스타트(Cold Start for Structured Reasoning)와 힌트 유도 다양화 강화학습(Hint-Guided Diversified Reinforcement Learning)의 두 단계로 구성되어, 모델이 '제안-선택-사고(propose-select-think)' 궤적을 따라 다양하고 신뢰할 수 있는 해법을 생성하도록 장려한다. 실험 결과는 HDPO가 LLM의 추론 성능을 효과적으로 향상시키고, 후보 해법의 다양성뿐만 아니라 신뢰할 수 있는 해법을 식별하는 LLM의 능력 또한 향상시킴을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.