arXiv:2605.06920 cs.GT

In-Context Credit Assignment via the Core

제출 2026-05-07

한국어 초록

저희는 컨텍스트 윈도우에 지식재산이 나타나는 창작자들 사이에서 AI 생성 콘텐츠(예: 코드, 뉴스 기사, 짧은 형식의 동영상)에 대한 크레딧을 배분하는 작업인 문맥 내 크레딧 할당(in-context credit assignment)을 위한 인센티브 정렬 메커니즘(incentive-aligned mechanisms)을 제안한다. 저희 접근법은 협력 게임 이론의 최소 코어(least core) 해 개념에 기반하며, 창작자들의 어떤 부분집합도 자신들만으로 생성할 수 있는 가치에 비해 현저히 적게 보상받지 않도록 보장함으로써 가치를 가능한 한 안정적으로 분배한다. 저희는 제약 시딩(constraint seeding)과 제약 분리(constraint separation)를 위한 새로운 루틴을 활용하는 최소 코어 근사 알고리즘을 개발한다. 웹 검색 기반 크레딧 할당 과제에서, 저희 방법은 대안적 방법들과 비교해 대규모 언어 모델(LLM) 호출을 자릿수 수준으로 훨씬 적게 사용하면서도 최소 코어를 근사할 수 있음을 확인했다.

요약

생성형 인공지능이 웹 문서, 코드, 이미지, 영상 등 다양한 출처를 결합해 결과물을 만들어내는 환경이 확산되면서, 결과물의 가치를 여러 창작자에게 어떻게 공정하게 배분할 것인지가 중요한 문제로 떠올랐습니다. 이 논문은 이러한 인컨텍스트 크레딧 할당(in-context credit assignment)을 단순한 설명 가능성의 문제가 아니라, 창작자의 인센티브를 해치지 않는 보상 설계의 문제로 바라보고, 이를 협력 게임 이론(cooperative game theory)의 최소 코어(least core) 개념으로 정식화합니다. 핵심 아이디어는 어떤 부분집합의 창작자도 자신들끼리 만들 수 있었던 가치에 비해 지나치게 적게 보상받지 않도록 하는 가장 안정적인 분배를 찾는 것이며, 이를 통해 생성 결과에 포함된 지적 재산의 기여를 경제적으로 정당하게 다루고자 합니다. 특히 실제 시스템에서는 참값 가치 함수가 직접 관측되지 않는다는 점을 고려해, 보상 모델이나 LLM-as-a-Judge를 통해 얻은 추정 가치 함수 \widehat v에 기반한 추정 최소 코어를 계산하도록 문제를 확장한 점이 인상적입니다. 방법론적으로 이 논문은 최소 코어를 직접 구하는 대신, 선형계획(linear programming, LP)으로 표현된 지수적으로 많은 연합 제약을 효율적으로 처리하는 근사 알고리즘을 제안합니다. 이를 위해 위반되는 연합만 점진적으로 찾아내는 제약 생성(constraint generation)과, 현재 해를 깨는 연합을 탐색하는 분리 오라클(separation oracle)을 결합하며, 여기에 제약 시딩(constraint seeding)이라는 초기화 전략을 더해 계산 효율을 높입니다. 또한 이진 보상 환경에서는 최소 승리 연합(minimal winning coalition, MWC)을 활용해 중요한 제약만 압축적으로 다루는 구조를 설계함으로써, 실제 계산에서 불필요한 탐색을 줄이고자 합니다. 이 과정에서 균형 분포(balanced distribution)를 이용한 민감도 분석도 함께 제시하여, 추정 오차가 최소 코어의 안정성에 어떤 방식으로 영향을 주는지 이론적으로 설명합니다. 그 결과, 단순한 최악오차 관점보다 훨씬 정교하게 분배 안정성을 이해할 수 있으며, 추정된 가치 함수가 어느 정도 흔들려도 안정적인 보상 분배가 가능하다는 점을 보입니다. 실험적으로는 웹 검색 기반 크레딧 할당 과제에서 제안 기법을 검증했으며, 기존 방법들과 비교해 훨씬 적은 LLM 호출만으로 최소 코어를 근사할 수 있음을 확인했습니다. 이는 이 논문의 기여가 이론적 정당화에만 머무르지 않고, 실제 생성형 AI 시스템에서 계산 가능한 보상 메커니즘으로 이어질 수 있음을 보여줍니다. 다시 말해, 이 연구는 인컨텍스트 생성 결과를 둘러싼 기여 분배 문제를 공정성, 안정성, 계산 가능성이라는 세 축 위에서 함께 다루며, 생성형 AI 시대의 새로운 크레딧 할당 원리를 제시합니다.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.