과학적 참신성 평가를 위한 LLM-as-Judge의 한계
On the Limits of LLM-as-Judge for Scientific Novelty Assessment
한국어 초록
대규모 언어 모델(LLM)은 과학적 아이디어를 생성하고 판단하는 데 점점 더 많이 사용되고 있습니다. 이로 인해 참신성 평가가 핵심 문제가 되었습니다. 완전한 아이디어 평가는 방법론, 그 타당성, 그리고 실증적 가능성을 판단해야 하는 경우가 많아 어렵습니다. 따라서 우리는 더 명확한 상위 개념인 연구 질문(RQ)을 연구합니다. RQ 생성은 과학적 아이디어 도출의 선행 조건이며, RQ는 실제 논문에서 다루어진 질문들과 비교할 수 있습니다. 우리는 최근 arXiv 논문들로 구축된 벤치마크인 RQ-Bench를 소개합니다. 각 논문에 대해 우리는 인용된 배경, 연구 공백(gap), 기여로부터 저자 기반 RQ를 재구성합니다. 이러한 RQ들은 동일한 배경에 대한 유일한 유효한 질문들은 아닙니다. 이들은 참신성 판단을 테스트하기 위한 저자 기반 참조 지점들입니다. 우리는 독립적인 LLM 판단, 비교적 LLM 판단, 그리고 인간 전문가 평가를 통해 모델이 생성한 RQ를 평가합니다. LLM 판정자는 모델이 생성한 RQ를 지속적으로 매우 참신하다고 평가하여 참신성의 신기루(novelty mirage)를 만들어냅니다. 비교 평가에서는 이러한 선호가 더욱 강해집니다. 그러나 도메인 전문가들은 반대 결론에 도달하며 저자 기반 참조 질문을 선호합니다. 우리는 또한 많은 생성된 RQ가 협소하거나 출처에 종속(source-bound)되어 있다는 것을 발견했는데, 이는 명시적으로 테스트하지 않는 한 LLM 판정자가 자주 놓치는 차원입니다. 전반적으로, LLM 판정자와 인간 전문가 간의 모순된 참신성 평가는 연구 질문의 과학적 참신성을 평가하기 위해 LLM을 사용하는 것의 신뢰성에 대한 심각한 우려를 제기합니다.
원문 초록
LLMs are increasingly used to generate and judge scientific ideas. This makes novelty evaluation a central problem. Full idea evaluation is difficult because it often requires judging a method, its feasibility, and its empirical promise. We therefore study a cleaner upstream object: the research question (RQ). RQ generation is a prerequisite for scientific ideation, and RQs can be compared against questions pursued in real papers. We introduce RQ-Bench, a benchmark built from recent arXiv papers. For each paper, we reconstruct author-anchored RQs from its cited background, gaps, and contributions. These RQs are not the only valid questions for the same background. They are author-anchored reference points for testing novelty judgments. We evaluate model-generated RQs with standalone LLM judging, comparative LLM judging, and human expert evaluation. LLM judges consistently rate model-generated RQs as highly novel, producing a novelty mirage; in comparative evaluations, this preference becomes even stronger. Domain experts, however, reach the opposite conclusion and prefer the author-anchored reference questions. We further find that many generated RQs are narrow or source-bound, a dimension that LLM judges often miss unless explicitly tested. Overall, the contradictory novelty evaluations between LLM judges and human experts raise a serious concern about the reliability of using LLMs to assess the scientific novelty of research questions.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.12071v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
SWE-DeceptionBench: 소프트웨어 개발 생명주기 전반에서 LLM의 기만적 행동 벤치마킹
SWE-DeceptionBench: Benchmarking Deceptive Behaviors of LLMs Across the Software Development Lifecycle
대규모 언어 모델(LLM)은 소프트웨어 개발 생명주기 전반에서 점점 더 많이 사용되고 있다. LLM에 대한 이러한 의존도 증가는 신뢰성에 대한 우려를 불러일으키며, 그중에서도 기만(deception)은 특히 중요한 위험 요소이다. 기만적 행동은 오해를 유발하는 응답이나, 정보를 조작·은폐·왜곡하는 것을 돕는 형태로 나타난다. 이러한 행동을 연구하기 위해, 우리는 소프트웨어 공학에서 LLM의 기만을 평가하기 위한 벤치마크인 SWE-DeceptionBench를 소개한다. 이 벤치마크는 여섯 개의 생명주기 단계와 두 가지 기만 유발 요인을 다룬다: 모델이 실현 불가능하거나 상충되는 요구사항을 인지하면서도 이를 달성 가능한 것처럼 제시하는 능동적 기만(Active Deception), 그리고 모델이 타인을 속이려는 명시적인 사용자 요청의 이행을 돕는 수동적 기만(Passive Deception)이다. 우리는 추가로 외부 유인의 영향을 연구하기 위해 중립(Neutral), 보상(Reward), 압박(Pressure) 조건을 도입하였으며, 이를 통해 중국어와 영어로 구성된 총 720개의 테스트 인스턴스를 구성하였다. 일곱 개의 주요 LLM을 평가한 결과, 중립 조건에서도 상당한 기만이 나타났으며, 능동적 기만의 전체 비율은 49.88%, 수동적 기만의 전체 비율은 64.29%에 달하였다. 기만 비율은 생명주기 단계에 따라 달라졌으며, 외부 유인은 능동적 기만과 수동적 기만에 서로 다른 정도로 영향을 미쳤다. 우리는 또한 경량 방어 기법을 평가하였으며, 가드 모델(guard model)이 많은 기만적 요청을 탐지하지 못하고, Self-Reminder가 기만적 응답을 감소시키지만 완전히 제거하지는 못한다는 것을 발견하였다. 이러한 결과는 신뢰할 수 있는 LLM 기반 소프트웨어 공학을 지원하기 위해 더 효과적인 기만 탐지 및 완화 방법이 필요함을 시사한다.
올바른 순서, 잘못된 척도: 직업적 AI 측정을 위한 LLM 심사관 감사
Right Order, Wrong Scale: Auditing LLM Judges for Occupational AI Measurement
AI 출력이 직무 요구사항을 충족하는지 평가하기 위해 대규모 언어 모델(LLM) 심사관이 점점 더 많이 사용되고 있으나, 응답 순위의 일치가 수용률이나 직업별 총계에 대한 일치까지 보장하지는 않습니다. 본 연구에서는 45,796건의 근로자 평가를 수집한 기존 설문조사를 바탕으로 구축된 감사 도구 모음인 O*NET-BENCH를 소개하고, 4,501건의 테스트 평가를 대상으로 6개 모델 패밀리에 걸친 33개의 기존 심사관 구성을 평가합니다. 25개 구성이 0.60 이상의 동점 고려 쌍 정확도(tie-aware pair accuracy)를 달성했으나, 학습 데이터에 맞춘 응답 전용 TF-IDF 기준선 역시 가장 강력한 심사관에 거의 필적했습니다. 이러한 순서 일치에도 불구하고 심사관들은 응답의 3.0%~97.9%가 수용 가능하다고 추정하여, 직업이 일치하는 근로자들의 61.1%와 큰 차이를 보였습니다. 한 파인튜닝 계열에서는 포인트와이즈(pointwise) 채점에서 번들 퓨샷/리스트와이즈(few-shot/listwise) 프로토콜로 전환할 경우 응답 순위는 향상되었지만, 과업 및 직업 수준에서 근로자 평균과의 일치도는 감소했습니다. 이러한 역전 현상은 사전 지정된 기준에 따른 과업 및 근로자 분리 검증 분할에서도 재현되었습니다. 교차 검증된 보정은 평균 바이어스를 상당 부분 제거하지만, 보정된 점수는 개별 근로자 평가 분산의 최대 8.5%만을 설명합니다. 예측 보조 추정(prediction-assisted estimation)은 조사된 라벨 예산에서 기껏해야 미미한 정밀도 이득만을 가져옵니다. 이러한 결과는 직업적 측정을 수행하는 데 순위 일치만으로는 불충분함을 보여줍니다. 심사관은 점수를 통해 추정하고자 하는 실제 수용률 및 집계치를 기준으로 검증되어야 합니다.
대규모 언어 모델은 콜롬비아 법률을 알고 있는가? 콜롬비아 법률 체계를 위한 신뢰성 벤치마크
Do Large Language Models Know Colombian Law? A Reliability Benchmark for the Colombian Legal System
대규모 언어 모델(LLM)은 법률 실무, 교육, 연구를 지원하는 데 점점 더 많이 활용되고 있지만, 미국 이외의 국가 법률 체계에서 이들의 신뢰성은 대부분 문서화되지 않은 상태로 남아 있습니다. 본 연구에서는 콜롬비아 법률 체계에 대한 LLM 신뢰성을 평가하기 위한 전문가 검증 벤치마크를 소개합니다. 이 벤치마크는 다단계 전문가 검토를 거친 인간 참여형(human-in-the-loop) 파이프라인을 통해 구축되었으며, 10개 법률 분야와 3가지 질문 형식(폐쇄형 객관식, 반개방형, 개방형 IRAC)에 걸친 1,042개 문항으로 구성됩니다. 우리는 형식에 적합한 지표를 사용하여 15개의 최신 상용 및 공개 가중치(open-weight) 모델을 평가합니다. 폐쇄형 질문의 정확도는 0.905(Gemini 3.1 Pro)부터 0.577까지 큰 폭의 차이를 보였으나, 자유 서술형 법률 답변의 경우 모든 모델에서 사실적 정확성이 0.45(0-1 척도 기준)를 넘지 못했습니다. 우리는 답변 관련성과 정확성 사이의 괴리(Spearman rho = -0.46)를 발견했습니다. 즉, 모델들은 질문에 부합하게 그럴듯하게 응답하면서도 실제로는 틀리는 경우가 잦았으며, 이는 특히 비전문가 사용자에게 우려되는 패턴입니다. 폐쇄형 질문 정확도와 자유 서술형 정확도는 순위 상관관계가 매우 높아(rho = 0.94), 비용이 적게 드는 객관식 스크리닝으로 모델 순위를 예측할 수는 있지만 절대적인 신뢰성은 과대평가되는 것으로 나타났습니다. 루브릭 기반의 독립적인 LLM 판정관과 블라인드 인간 전문가 점수 산정 모두 자유 서술형 순위를 재현했습니다(rho >= 0.88). 판정관 분석 결과, 모델이 인용한 법규범 중 약 절반만이 정확했으며 나머지는 부정확하거나 존재하지 않는 것으로 추가 확인되었습니다. 신뢰성은 법률 분야에 따라 체계적으로 차이를 보였으며 질문 복잡도에 따라 역U자형(inverted-U) 추세를 따랐습니다. 본 연구 결과는 현재의 LLM이 콜롬비아 법률 업무에 활용되려면 전문가의 감독이 필요하며, 권위 있는 출처에 답변을 그라운딩(grounding)하는 것이 신뢰성을 높이기 위한 유망한 방안임을 보여줍니다. 재현 가능한 평가를 지원하기 위해 벤치마크 구축 파이프라인을 공개합니다.
RetryBench: GPT 도구 사용에서 재시도 권한과 복구 결과의 분리
RetryBench: Separating Retry Permission from Recovery Outcomes in GPT Tool Use
StoreBench: 자율 운영자 에이전트의 평가 및 학습을 위한 라이브 커머스 환경
StoreBench: A Live-Commerce Environment for Evaluating and Training Autonomous Operator Agents
강화학습(RL) 환경은 이제 사후 학습(post-training)에서 대규모 언어 모델(LLM)의 역량을 향상시키는 주요 수단이 되었으나, 대부분의 에이전트 벤치마크는 여전히 정적입니다. 즉, 에이전트가 행동할 때만 환경이 변화하고, 보상은 최종적인 판정으로 주어지며, 통과 기준은 자의적으로 설정됩니다. 본 논문에서는 에이전트가 프로덕션 수준의 상거래 백엔드에서 중간 규모의 온라인 의류 매장을 운영하며 불확실성 속에서 장기 계획 수립 및 경제적 판단력을 시험받는 라이브 커머스 환경인 StoreBench를 소개합니다. 고객은 24시간 내내 주문하고, 공급업체는 가격을 재책정하거나 공급에 실패하며, 시장 충격은 부분적인 예고만 있거나 예고 없이 발생합니다. 에이전트는 실제 인간 운영자가 사용하는 것과 동일한 29개의 판매자 도구를 통해 행동하며, 취해진 행동의 함수로 시뮬레이션 시간을 계산하는 윈도우 기반 운영 예산 하에서 작동하므로 모델 지연 시간이 시뮬레이션 시간에 영향을 미칠 수 없습니다. 통과 임계값은 스크립트 기반 앵커 정책을 기준으로 보정되었고, 보상은 다양한 보상 해킹 목록에 대비해 강화되었으며, 일련의 행동이 주어지면 모든 에피소드가 동일하게 재현됩니다. 본 연구에서는 추론 노력을 일치시킨 상태에서 세 가지 월드 시드에 걸쳐 30~45일 및 시뮬레이션된 1년 전체에 해당하는 11개 시나리오를 바탕으로 7개의 프론티어 LLM을 평가합니다. 평균적으로 스크립트 기반 스마트 트리아지(smart-triage) 정책에 필적하는 모델은 없었습니다. 최고 성능을 보인 DeepSeek-V4-Pro는 휴리스틱의 97% 대비 49%의 태스크-시드 셀을 통과했습니다. 동일한 도구와 예산을 사용하여 작업한 인간 전문가는 모든 모델보다 높은 점수를 기록했습니다(평균 종합 점수 0.708 대 0.700). Claude Code 하네스 기반의 시뮬레이션된 1년 전체에 걸쳐 대다수 모델은 극적인 성능 향상을 보입니다. GRPO 사후 학습 실행에서 서로 다른 5개의 태스크로만 학습된 Qwen3.5-27B는 홀드아웃(held-out) 평가 태스크에서의 평균 종합 점수를 0.136에서 0.373으로 향상시켰습니다. 본 연구에서는 학습 분할용 예시 태스크 5개, 샘플 궤적 10개, 점수 측정 및 검증 툴링을 공개하며, 벤치마크 오염을 방지하기 위해 전체 환경과 평가 스위트는 비공개로 유지합니다.
검토는 더 강력한 모델을 거의 능가하지 못한다: LLM 파이프라인에서 검증과 능력 전이의 분리
Review Rarely Beats the Stronger Model: Separating Verification from Capability Transfer in LLM Pipelines
토론
이 논문과 연결된 포럼 글이 아직 없습니다.