구조에서 타당성까지: 메커니즘 기반 대규모 언어 모델(LLM) 루브릭 생성 및 개선
From Structure to Validity: Mechanism-Guided Generation and Refinement of LLM Rubrics
한국어 초록
루브릭은 개방형 작업에서 언어 모델을 평가(evaluation)하고 최적화(optimization)하는 데 널리 사용되어 왔습니다. 그러나 기존 연구는 루브릭 디자인을 효과적으로 만드는 요인에 대한 이해가 제한적인 채, 더 나은 루브릭을 생성하는 데 주로 초점을 맞추고 있습니다. 본 연구에서는 기준 조직화, 기준 조작화, 점수 집계 전반에 걸쳐 루브릭 디자인에 대한 체계적인 메커니즘 분석을 수행합니다. 분석 결과, 구조적 조직화는 보다 포괄적인 기준 구축을 가능하게 하지만, 의미론적 구체화만으로는 효과적인 기준 수준 판단을 보장하지 못하며, 정교한 점수 집계는 제한적인 추가 이득만을 제공함을 보여줍니다. 이러한 발견에 기반하여, 적응형 트리 구축과 의미 우선 반응 보정 개선을 결합한 ARTS-Hybrid(Adaptive Rubric Tree Search with Hybrid refinement)를 제안합니다. 여러 벤치마크(benchmark)에 걸친 실험을 통해 ARTS-Hybrid가 엔드투엔드 평가 성능과 내재적 루브릭 품질을 모두 향상함을 입증합니다. 추가 실험에서는 ARTS-Hybrid로 생성된 루브릭이 평가를 넘어 모델 최적화에도 유효한 신호를 제공함을 시사합니다.
원문 초록
Rubrics have been widely used to evaluate and optimize language models on open-ended tasks. However, existing work primarily focuses on generating better rubrics, with limited understanding of what makes rubric design effective. In this work, we conduct a systematic mechanistic analysis of rubric design across criterion organization, criterion operationalization, and score aggregation. Our analysis shows that structural organization enables more comprehensive criterion construction, semantic specification alone does not ensure effective criterion-level judgments, and sophisticated score aggregation provides limited additional gains. Guided by these findings, we introduce Adaptive Rubric Tree Search with Hybrid refinement (ARTS-Hybrid), which combines adaptive tree construction with semantic-first, response-calibrated refinement. Experiments across benchmarks show that ARTS-Hybrid improves both end-to-end evaluation performance and intrinsic rubric quality. Further experiments suggest that, beyond evaluation, rubrics generated by ARTS-Hybrid provide effective signals for model optimization.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
WorldBench: Three.js 복셀 월드 생성에서의 대규모 언어 모델(LLM) 평가
WorldBench: Evaluating LLMs on Three.js Voxel World Generation
대규모 언어 모델(LLM)은 이제 완전하고 상호작용 가능한 3D 월드를 코드로 작성할 수 있지만, 이러한 월드를 자동으로 채점하는 것은 신뢰하기 어렵습니다. 기존의 평가자들은 출력물에 대해 단일 관점만 취합니다. 즉, 비전-언어(vision-language) 모델이 렌더링된 몇 개의 스냅샷을 점수 매기거나, 언어 모델이 소스 코드를 읽는 방식입니다. 5개의 프론티어 모델이 작성한 월드를 대상으로 분석한 결과, 두 관점은 요구된 항목의 32%에서 의견이 일치하지 않았으며(대부분 어떤 프레임에도 표시되지 않는 코드 때문임), 고정된 시점은 크기가 작은 근접 콘텐츠를 놓친다는 점을 발견했습니다. 본 논문에서는 LLM이 생성한 개방형 Three.js 월드를 위한 벤치마크이자 평가자인 WorldBench를 제시합니다. 10개의 바이옴, 물리 엔진, 낮/밤 및 계절 주기를 갖춘 떠 있는 복셀 섬을 설명하는 단 하나의 프롬프트로부터, 평가자는 실행 중인 월드를 탐색하여 시계를 제어하고, 주위를 공전하며, 네비게이터 에이전트를 파견해 각 바이옴을 화면에 담고, 보이는 내용에 대해 코드를 읽어 들입니다. 두 채널 중 어느 것도 단독으로는 신뢰하지 않습니다. 코드 인용은 소스에 실제로 포함된 텍스트인 경우에만 인정되며, 시각적 주장은 해당 속성이 측정 가능한 경우 측정된 픽셀을 기준으로 교차 검증됩니다. 의도적으로 기능을 제거하는 변이 테스트(mutation test) 결과, 코드 전용 평가는 코드가 파일에 남아 있다는 이유로 제거된 5개 기능 중 4개에 만점을 부여하는 것으로 나타났습니다. 저희 평가자는 제거된 기능에 부여되던 점수를 3분의 1가량 삭감하며(7.11점 중 5.44점에서 3.55점), 여전히 인정되는 부분은 대부분 존재하지만 전혀 실행되지 않는 코드 때문입니다. 저희는 5개의 프론티어 모델(Claude Fable 5.1, GPT-6 Astra, Kimi K3, Grok 4.7, Gemini 3.1 Pro)을 평가합니다. 코드, 프롬프트, 테스트 및 평가자 설정은 https://github.com/KrishBakshi/worldbench 에서 확인할 수 있습니다.
개입적 전이를 통한 루브릭 생성 평가
Evaluating Rubric Generation with Interventional Transfer
인스턴스별 루브릭은 신뢰할 수 있는 평가를 위해 특정 전문가 지식이 필요한 AI 벤치마크에서 흔히 사용됩니다. 이러한 방식은 확장이 어려워 대규모 언어 모델(LLM)을 활용한 루브릭 생성 연구로 이어지고 있습니다. 그러나 전문가 루브릭을 참조용으로 활용할 수 있는 경우에도, 생성된 루브릭의 품질을 대규모로 생산성 있게 평가하는 방법은 명확하지 않습니다. 본 논문에서는 응답에 섭동을 주어 한 루브릭을 통과 또는 실패하도록 만들었을 때 두 루브릭이 함께 움직인다면 서로 유사하다는 아이디어에 기반한 루브릭 생성 평가 방법인 개입적 전이(Interventional Transfer, IT)를 소개합니다. 루브릭 생성 평가를 위한 기존 접근법과 달리, 본 연구에서는 다양한 형태의 개입적 전이를 활용하여 여러 태스크에 대한 생성된 루브릭의 유용성을 평가할 수 있다고 주장합니다. 예를 들어, HealthBench를 대상으로 한 사례 연구에 이 접근법을 적용하여 GPT-5.6-Terra의 응답을 평가하는 데 사용된 Qwen3.8-27B, Deepseek-V4-Flash 및 Opus-5 생성 루브릭의 비대칭성을 입증합니다. 생성된 루브릭이나 전문가 루브릭을 기준으로 응답을 저하시키는 섭동은 대응하는 전문가 또는 생성된 루브릭에서도 더 낮은 점수로 전이되지만, 한 루브릭에서 점수를 개선하는 섭동은 다른 루브릭에서 더 높은 점수로 안정적으로 전이되지 않습니다. 우리는 이러한 발견이 성능 모니터링 및 힐 클라이밍(hill-climbing)을 위한 LLM 생성 루브릭의 활용에 시사하는 바가 크다고 주장합니다. 또한 우리가 관찰한 것과 동일한 비대칭성을 드러내지 못하는 기존 루브릭 평가 접근법들과 본 접근법을 대조합니다.
임상의의 언어 모델 활용 방식과 모델 평가 방식 간의 괴리
Clinician use of language models diverges from how the models are evaluated
대규모 언어 모델(LLM) 어시스턴트가 여러 의료 시스템 전반에서 임상의들에게 배포되고 있으며, 이러한 모델의 준비도에 대한 판단은 대부분 시험 문제나 선별된 사례에서 도출된 벤치마크 점수에 크게 의존하고 있습니다. 벤치마크는 그 평가 항목이 실제 사용 환경과 유사한 수준에서만 배포 시의 성능을 예측할 수 있지만, 벤치마크가 이들 시스템이 실제로 처리하는 업무를 얼마나 잘 반영하는지는 거의 측정된 바 없습니다. 본 연구에서는 8개월간의 배포 과정 동안 35개 전문 분야의 의사, 상급 실무 제공자, 간호사 등 6,342명이 기관용 어시스턴트에 전송한 127,833개의 쿼리를 분석합니다. 임상 질의 및 LLM 평가 분류 체계에 기반하고 임상의의 검증을 거친 프레임워크인 RCQ-Map을 통해 각 쿼리를 특성화하여 태스크, 의도, 답변 가능성, 누락된 정보, 잠재적 위해성을 기록합니다. 문서화 및 행정 업무(36.2%)와 지식 검색(28.9%)이 전체 사용의 3분의 2 가까이를 차지한 반면, 진단은 3.7%에 불과했으며, 쿼리의 3분의 1 이상은 제시된 형태 그대로는 적절한 답변이 불가능했습니다. 주요 평가 스위트와 프론티어 모델 보고서에서 추출하여 Clinical AI Benchmark Atlas로 구성한 58개의 공개 벤치마크에 RCQ-Map을 적용한 결과, 중간값 기준 벤치마크에는 문서화 요청이 전혀 포함되어 있지 않았으며, 실제 사용의 태스크 구성과 일치하는 비율은 태스크 카테고리 전반에 균등하게 분산되었을 때보다도 낮은 31%에 그쳤습니다. 임상 진료 환경을 반영하도록 설계된 스위트에 포함된 벤치마크들도 개별적으로 볼 때 프론티어 모델 보고서에 사용된 벤치마크보다 실제 사용에 더 가깝지 않았습니다. 따라서 벤치마크 점수는 임상 AI가 실제로 부여받는 대부분의 업무에서 어떻게 동작하는지에 대해 거의 알려주지 못하며, 평가는 실제 임상적 활용에 부합하도록 이루어져야 합니다.
RetryBench: GPT 도구 사용에서 재시도 권한과 복구 결과의 분리
RetryBench: Separating Retry Permission from Recovery Outcomes in GPT Tool Use
StoreBench: 자율 운영자 에이전트의 평가 및 학습을 위한 라이브 커머스 환경
StoreBench: A Live-Commerce Environment for Evaluating and Training Autonomous Operator Agents
강화학습(RL) 환경은 이제 사후 학습(post-training)에서 대규모 언어 모델(LLM)의 역량을 향상시키는 주요 수단이 되었으나, 대부분의 에이전트 벤치마크는 여전히 정적입니다. 즉, 에이전트가 행동할 때만 환경이 변화하고, 보상은 최종적인 판정으로 주어지며, 통과 기준은 자의적으로 설정됩니다. 본 논문에서는 에이전트가 프로덕션 수준의 상거래 백엔드에서 중간 규모의 온라인 의류 매장을 운영하며 불확실성 속에서 장기 계획 수립 및 경제적 판단력을 시험받는 라이브 커머스 환경인 StoreBench를 소개합니다. 고객은 24시간 내내 주문하고, 공급업체는 가격을 재책정하거나 공급에 실패하며, 시장 충격은 부분적인 예고만 있거나 예고 없이 발생합니다. 에이전트는 실제 인간 운영자가 사용하는 것과 동일한 29개의 판매자 도구를 통해 행동하며, 취해진 행동의 함수로 시뮬레이션 시간을 계산하는 윈도우 기반 운영 예산 하에서 작동하므로 모델 지연 시간이 시뮬레이션 시간에 영향을 미칠 수 없습니다. 통과 임계값은 스크립트 기반 앵커 정책을 기준으로 보정되었고, 보상은 다양한 보상 해킹 목록에 대비해 강화되었으며, 일련의 행동이 주어지면 모든 에피소드가 동일하게 재현됩니다. 본 연구에서는 추론 노력을 일치시킨 상태에서 세 가지 월드 시드에 걸쳐 30~45일 및 시뮬레이션된 1년 전체에 해당하는 11개 시나리오를 바탕으로 7개의 프론티어 LLM을 평가합니다. 평균적으로 스크립트 기반 스마트 트리아지(smart-triage) 정책에 필적하는 모델은 없었습니다. 최고 성능을 보인 DeepSeek-V4-Pro는 휴리스틱의 97% 대비 49%의 태스크-시드 셀을 통과했습니다. 동일한 도구와 예산을 사용하여 작업한 인간 전문가는 모든 모델보다 높은 점수를 기록했습니다(평균 종합 점수 0.708 대 0.700). Claude Code 하네스 기반의 시뮬레이션된 1년 전체에 걸쳐 대다수 모델은 극적인 성능 향상을 보입니다. GRPO 사후 학습 실행에서 서로 다른 5개의 태스크로만 학습된 Qwen3.5-27B는 홀드아웃(held-out) 평가 태스크에서의 평균 종합 점수를 0.136에서 0.373으로 향상시켰습니다. 본 연구에서는 학습 분할용 예시 태스크 5개, 샘플 궤적 10개, 점수 측정 및 검증 툴링을 공개하며, 벤치마크 오염을 방지하기 위해 전체 환경과 평가 스위트는 비공개로 유지합니다.
검토는 더 강력한 모델을 거의 능가하지 못한다: LLM 파이프라인에서 검증과 능력 전이의 분리
Review Rarely Beats the Stronger Model: Separating Verification from Capability Transfer in LLM Pipelines
토론
이 논문과 연결된 포럼 글이 아직 없습니다.
저자 비고
arXiv Comments
Submitted to ICLR 2027