PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.10947v1cs.LG

RH-Detect: 보상 해킹 탐지를 위한 통합 벤치마크

RH-Detect: A Unified Benchmark for Reward Hacking Detection

의도된 작업을 완수하지 않은 채 평가 신호를 악용하는 현상인 보상 해킹(reward hacking)은 배포된 언어 모델 시스템의 신뢰성을 위협합니다. 기존 데이터셋들은 서로 다른 라벨, 응답 형식, 메타데이터 규약을 사용하여 탐지기(detector)의 결과를 비교하기 어렵게 만듭니다. 본 논문에서는 11개의 공개 데이터셋에서 보상 해킹과 관련된 하위 집합들을 결합하여 92,761개 행과 6가지 행동 범주를 공통 스키마로 구성한 벤치마크인 RH-Detect를 제시합니다. 다중 턴(multi-turn) 도구 사용 궤적을 포함하여 작업 프롬프트와 자유 형식 모델 생성문으로 각각 구성된 5,021개의 개방형 평가 단위에서, 추가 학습 없이 5개 계열의 기성 언어 모델 6개를 보상 해킹 탐지기로서 평가합니다. 최고 성능의 모델은 풀링된(pooled) AUROC 0.962와 93% 이상의 정확도를 달성합니다. 그러나 가장 강력한 4개 모델의 경우, 공통 결정 임계값에서 두 다중 턴 도구 사용 데이터셋인 MALT와 TRACE에 대한 정확도가 다른 데이터 소스에 비해 10.7~15.9%p 낮게 나타나, 배포 시점 모니터링에서의 주요 격차를 부각합니다. 또한 입력 형식에 따라 모델별로 서로 다른 영향이 나타남을 발견했습니다. 생각 과정(thinking)을 제거하면 Qwen3.5-4B의 AUROC는 0.779에서 0.849로 증가하지만, Qwen Flash는 0.977에서 0.950으로 감소합니다. 아울러 본 벤치마크를 탐지기 학습 데이터셋으로도 평가합니다. 각 소스를 차례로 배제(hold out)하며 평가했을 때, 단일 토큰 지도 미세조정(single-token SFT)은 6개 제외 소스 중 5개에서 평균 AUROC를 향상시켰습니다. 해당 실패 사례에 대해 GRPO를 후속 적용한 결과 탐지 성능이 소폭 향상되었습니다. 본 연구 결과는 단일 풀링 점수가 데이터 소스, 탐지기 입력, 학습 절차 전반에 걸친 편차를 가릴 수 있음을 보여줍니다.