ProEval: Proactive Failure Discovery and Efficient Performance Estimation for Generative AI Evaluation
한국어 초록
생성형 AI 모델을 평가하는 작업은 느린 추론, 고비용 평가자, 그리고 빠르게 확장되는 모델과 벤치마크 생태계로 인해 점점 더 많은 자원을 필요로 합니다. 우리는 전이학습(transfer learning)을 활용해 성능을 효율적으로 추정하고 실패 사례를 식별하는 능동적 평가 프레임워크인 ProEval을 제안합니다. ProEval은 성능 점수 함수의 대리 모델로 사전학습된 가우시안 프로세스(Gaussian Processes, GPs)를 사용하여, 모델 입력을 오류의 심각도나 안전성 위반과 같은 지표로 매핑합니다. 성능 추정을 베이지안 구적법(Bayesian quadrature, BQ)으로, 실패 발견을 superlevel set 샘플링으로 정식화함으로써, 우리는 테스트를 위해 정보성이 높은 입력을 능동적으로 선택하거나 생성하는 불확실성 인식 의사결정 전략을 개발합니다. 이론적으로, 우리는 사전학습된 GP 기반 BQ 추정기가 편향이 없고 유계임을 증명합니다. 실험적으로, 추론, 안전성 정렬, 분류 벤치마크에 대한 광범위한 실험은 ProEval이 경쟁 기준선보다 훨씬 더 효율적임을 보여줍니다. ProEval은 정답(ground truth)과 1% 이내로 일치하는 추정을 달성하는 데 필요한 샘플 수를 8~65배 적게 요구하면서도, 더 엄격한 평가 예산 하에서 더 다양한 실패 사례를 동시에 찾아냅니다.
요약
생성형 인공지능 모델의 평가는 추론 비용이 크고 사람 평가자나 고가의 판정기에 의존하는 경우가 많아, 모델이 빠르게 늘어나는 현실에서 점점 더 큰 부담이 되고 있습니다. ProEval은 이러한 문제를 해결하기 위해 평가를 단순한 샘플링 작업이 아니라, 불확실성을 고려한 능동적 의사결정 문제로 재정의하며, 전이학습(transfer learning)과 베이지안 추론(Bayesian inference)을 결합한 효율적인 평가 프레임워크를 제안합니다. 핵심적으로는 입력과 성능 지표 사이의 관계를 사전학습된 가우시안 프로세스(Gaussian Processes, GPs)로 근사하여, 오류의 심각도나 안전성 위반과 같은 평가 신호를 적은 샘플만으로도 정밀하게 추정할 수 있도록 설계했습니다. 이 접근은 전체 테스트셋을 무작정 훑는 방식과 달리, 어떤 입력이 가장 많은 정보를 제공하는지에 따라 다음 평가 대상을 능동적으로 선택한다는 점에서 차별적입니다. 성능 추정은 베이지안 구적법(Bayesian quadrature, BQ)으로 정식화되어, 기대 성능을 확률적으로 계산하고 posterior uncertainty를 줄이는 방향으로 샘플을 고르게 됩니다. 동시에 실패 사례 발견은 superlevel set sampling으로 다루어, 특정 임계값을 넘는 고위험 입력 영역을 찾아내는 데 초점을 맞추며, 이를 통해 단순히 오류율이 높은 지점뿐 아니라 서로 다른 유형의 취약성까지 폭넓게 드러냅니다. 특히 ProEval은 활용(exploitation)과 탐색(exploration)의 균형을 세밀하게 조절하여, 이미 의심되는 실패 지점을 깊게 파고들면서도 아직 알려지지 않은 영역을 함께 탐색하도록 구성되어 있습니다. 또한 능동 합성(active synthesis)을 통해 LLM 기반 생성 과정에서 hard example을 기준점으로 삼아 새로운 테스트 입력을 만들어내므로, 정적인 벤치마크만으로는 포착하기 어려운 실패 모드를 추가로 발굴할 수 있습니다. 이와 같은 설계는 생성형 AI 평가를 더 적은 비용으로, 더 높은 신뢰도로 수행할 수 있게 하며, 실제로 추론, 안전성 정렬, 분류 벤치마크 전반에서 기존 방법보다 훨씬 적은 샘플로도 목표 정확도에 도달하면서 더 다양한 실패 사례를 찾아내는 효과를 보여줍니다. 결국 ProEval은 성능을 측정하는 도구를 넘어, 모델의 한계를 적극적으로 탐색하고 이해하는 평가 체계를 제시함으로써, 향후 대규모 생성형 AI 검증과 안전성 분석의 중요한 방법론적 기반을 제공한다고 볼 수 있습니다.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.