EvoRubric: 개방형 생성을 위한 자체 진화형 루브릭 기반 강화학습
EvoRubric: Self-Evolving Rubric-Driven RL for Open-Ended Generation
강화학습(RL)은 검증 가능한 도메인에서 대규모 언어 모델(LLM)을 발전시켰으나, 개방형 생성(open-ended generation)은 확정적인 보상이 부재하여 여전히 도전 과제로 남아 있습니다. 루브릭 기반 강화학습은 명시적인 평가 기준을 제공하지만, 최종 답변의 정답 여부를 검증할 수 없는 상황에서는 이러한 기준을 구성하는 방법을 학습하기가 여전히 어렵습니다. 본 논문에서는 기준 유효성 피드백, 응답 변별력, 동료 간 일치도를 결합하여 개방형 생성을 위한 루브릭을 학습하는 공진화 강화학습 프레임워크인 EvoRubric을 제안합니다. 공유 정책(shared policy)은 추론기(Reasoner)이자 루브릭 생성기(Rubric Generator) 역할을 동시에 수행하며, 현재 응답과 과거 루브릭을 활용하여 새로운 평가 차원을 발견합니다. 적응형 루브릭 발견과 안정적인 유효성 검증을 결합하기 위해 초기 정책의 고정된 복사본이 메타 검증기(Meta-Verifier) 역할을 수행하고, 고정된 채점기(Grader)는 유지된 기준에 따라 응답을 점수화합니다. 변별적 피드백, LOO(Leave-One-Out) 동료 합의, 영구 메모리 풀은 이러한 피드백을 상호 보완적인 보상으로 변환하여 두 정책 역할을 공동으로 최적화함으로써, 응답 개선과 루브릭 발견 사이의 루프를 완성합니다. EvoRubric은 의학, 작문, 과학 분야의 5개 벤치마크 전반에서 일치된 정적 및 외부 진화형 루브릭 베이스라인 대비 성능을 향상시켰습니다. 3개의 학습 시드에 걸쳐 8B에서 56.28점, 14B에서 61.13점의 5개 벤치마크 평균을 달성하여, 가장 강력한 매칭 베이스라인을 각각 3.09점과 2.06점 능가했습니다. 사람의 감사를 통해 기준 유효성과 응답 품질을 평가하였으며, 전문가가 초기화한 루브릭을 사용한 실험은 인간 사전 지식(human priors)과의 호환성을 입증합니다.