PyTorchKR Papers

최신 논문

총 121편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.28217v1cs.LG

완전 위임 AI 협동체에서 가치 제약 신용 배분을 향하여

Towards Value-Constrained Credit Assignment in Fully Delegated AI Cooperatives

인간이 데이터를 기여하고 이질적인 가치 제약 하에서 모델 업데이트에 참여하는 에이전트(agent)로 표현되는 완전 위임 AI 협동체에서 보상 할당을 위한 프레임워크를 제안한다. 핵심 아이디어는 각 principal(위탁자)의 가치 프로필에 대해 선별한 후에도 허용 가능한(admissible) 업데이트에만 기여도를 부여하는 것이다. 우리는 traversal learning(TL) 기질(substrate) 내에서 가치 조건 그래디언트 필터링, 온라인 한계 기여 신호, 누적 수익 정산을 공식화한다. TL은 집계 중심 분산 학습과 관련된 품질 손실 없이 분산 역전파를 수행하고, 명시적 순회(traversal) 및 그래디언트 경로를 보존함으로써 FedAvg 스타일 연합 학습(federated learning)보다 더 정교한 귀속(attribution) 기질을 제공한다고 주장하므로, 여기서 특히 매력적이다. 이 프레임워크는 데이터 가치 평가(data valuation), 연합 기여도 추정, 개인화 연합 학습, 다원적 정렬(pluralistic alignment)과 대비하여 위치시킨다.