PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.13548v1cs.CV

기존 평가 실행 결과를 활용한 VLM 벤치마크 감사

Auditing VLM Benchmarks from Existing Evaluation Runs

비전-언어 모델(VLM)의 모든 평가 실행은 이미 문항별 산출물(예측값, 채점된 정답 여부, 메타데이터)을 생성하지만, 리더보드는 이를 단일 점수로 축약한 뒤 폐기한다. 우리는 이러한 산출물을 재사용하여 벤치마크 자체를 감사하며, VLMEvalKit에 감사 층을 추가한다: 저장된 출력물에 대해 후처리 방식으로 실행되는 6개의 탐지기(detector)와, 시각 입력을 제거한 텍스트 전용 재실행 1개를 추가로 수행하여 문항별 보고서를 생성한다. 이 층은 문항별 결과와 함께 집계된 감사 통계를 보고하며, 주요 지표에 대해서는 해당하는 경우 순열-귀무(permutation-null) 초과분, 비율에 대한 구간 추정치, 그리고 모델 풀(pool)에 대한 민감도를 함께 제시한다. 이미지가 필수적이도록 특별히 선별된 벤치마크인 MMStar를 세 개의 모델로 감사한 결과, 전체 문항의 20.2%에서 이미지로 인한 집계 정확도 향상이 전혀 없음을 발견했다. 문항 매칭(item-matched) 순열 귀무 모델이 17.0%를 설명하며, +3.2퍼센트포인트의 초과분이 남는다(보정된 순열 p = 0.001). 이 초과분은 수학 및 과학 범주에 집중되어 있고 거친(coarse) 지각(perception) 범주에서는 나타나지 않는데, 이는 지식이 시각적 증거를 대체하는 것과 일치하는 국소화(localization) 양상이다; 이 메커니즘을 확인하려면 문항 단위 검토가 필요할 것이다. 두 번째 탐지기는 파싱 가능한 형태로 응답한 모든 모델이 동일한 비정답(non-gold) 선택지를 고른 134개 문항을 표시하는데, 이러한 후보 문항들은 지각 범주에서 최고치를 보이는 반면, 제로-게인(zero-gain) 초과분은 수학 및 과학·기술 범주에서 가장 크다. LLM 심사자를 정확한 문자열 매칭으로 대체해도 결론은 변하지 않으며, 두 방식 간의 모든 채점 불일치는 파서가 읽을 수 없는 자유 형식 답변을 내놓은 단 하나의 모델로 귀결된다. 이진(yes/no) 벤치마크에서는 탐지기들이 측정 가능한 수준으로 보정(calibration)을 벗어나는데, 이는 우리가 측정하고 보고하는 범위상의 한계이다. 감사 층, 예측 산출물, 그리고 생성된 보고서는 본 제출물과 함께 제공된다.