arXiv:2609.27362v1 cs.LG

AUC 상한을 이용한 이상 데이터 없는 자기 최적화

Anomaly-Free Self-Optimization via AUC Bounds

Kevin Wilkinghoff, Zheng-Hua Tan

제출 2026-09-24

한국어 초록

이상(anomaly)은 드물며, 개발 단계에서는 이상 데이터를 구하기 어려워 어떤 이상 탐지 모델과 설정이 보지 못한 이상에 일반화될지 판단하기 어렵다. 최근 접근법은 이 문제를 의사 이상(pseudo-anomaly)을 생성하고 ROC 곡선 아래 면적(area under the ROC curve, AUC)의 달성 가능 상한(bound)을 이용해 유한한 후보 집합에서 최적 설정을 고르는 방식으로 다룬다. 이와 달리 우리는 AUC 상한을 미분 가능한, 이상 데이터에 의존하지 않는(anomaly-free) 목적 함수로 사용하여 이상 탐지 시스템의 연속 매개변수를 직접 최적화한다. 이 프레임워크를 앙상블 가중치 최적화와 의사 이상 점수에 적응하는 학습 가능한 점수 재조정(score-rescaling) 메커니즘 도입을 통해 보이며, 사전 정의된 후보 집합을 넘어서는 최적화를 가능하게 한다. 여러 데이터셋과 임베딩 모델에 걸친 실험에서 AUC 상한 최적화는 기존 모델 선택 및 개발 집합 기반 매개변수 선택 방식보다 유의미한 성능 향상을 달성한다. 결과는 또한 직접 최적화가 의사 이상 구성 선택에 덜 민감함을 보여준다.

원문 초록

Anomalies are rare, and anomalous data are often unavailable during development, making it difficult to determine which anomaly detection models and configurations will generalize to unseen anomalies. Recent approaches address this challenge by generating pseudo-anomalies and using bounds on the achievable area under the ROC curve (AUC) to select the optimal configuration from a finite set of candidates. Instead, we use the AUC bound as a differentiable, anomaly-free objective for directly optimizing continuous parameters of anomaly detection systems. We demonstrate this framework by optimizing ensemble weights and introducing a learnable score-rescaling mechanism that adapts pseudo-anomaly scores, enabling optimization beyond a predefined candidate set. Experiments across multiple datasets and embedding models show that AUC-bound optimization achieves significant performance gains over conventional model selection and prior development-set-based parameter selection. The results further show that direct optimization is less sensitive to the choice of pseudo-anomaly construction.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.27362v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13808v2quant-ph공통 태그 Ensemble Learning, Model Selection

조합 융합을 통한 양자-고전 모델의 다양성 인지 앙상블

Diversity-Aware Ensemble of Quantum-Classical Models via Combinatorial Fusion

변분 양자 회로(VQC)는 회로 구조에 매우 민감하지만, 대부분의 양자 머신러닝 파이프라인은 단 하나의 최적 설계를 선택하고 나머지 후보는 폐기합니다. 본 논문에서는 양자 회로 탐색 공간 전반의 구조적 다양성을 활용하여 모델 융합(model fusion)을 통해 더 강력한 예측을 생성할 수 있는지 다룹니다. 순위-점수 함수(RSF)와 인지적 다양성(CD)을 활용해 여러 점수 산정 시스템을 선택하고 결합하는 모델 융합 프레임워크인 조합 융합 분석(CFA)을 구조적으로 다양한 29개의 고전 모델 및 양자 회로 풀에 적용합니다. 다양성 인지 모델 선택 방법을 사용하여 최대의 다양성을 지닌 모델 서브셋을 식별하고, 이를 점수 및 순위 결합 방식 모두로 결합합니다. 서로 다른 도메인을 포괄하는 4개의 이진 분류 벤치마크에 대한 실험 결과, CFA 기반의 하이브리드 고전-양자 융합은 고려된 모든 데이터셋에서 최고 성능의 개별 모델보다 일관되게 우수한 성능을 보였으며 정확도가 최대 6.03% 향상되었습니다. 관련 문헌과의 비교에서도 CFA 프레임워크는 4개 데이터셋 전반에서 더욱 우수한 성능을 달성합니다.

arXiv:2609.27930v1stat.ME공통 태그 Ensemble Learning, Model Selection

가우시안 프로세스 분할을 갖는 트리의 디리클레 프로세스 혼합: 사후 수축률을 갖춘 베이지안 비모수 프레임워크

Dirichlet Process Mixtures of Trees with Gaussian Process Splits: A Bayesian Nonparametric Framework with Posterior Contraction Rate

우리는 트리-매개변수 쌍에 대해 디리클레 프로세스(Dirichlet process) 사전분포를 두는 회귀 트리의 베이지안 비모수 혼합 모델을 제안한다. 이 모델은 데이터 기반으로 앙상블 크기를 선택할 수 있게 하며, CART, BART, 랜덤 포레스트, 부스팅을 하나로 통합한다. 각 종단 노드 내 가우시안 프로세스(GP)의 사후 예측분포에 기반한 새로운 분할 규칙은 유연하고 매끄러운 결정 경계를 생성한다. 주목할 만하게도, GROW/PRUNE 이동에 대한 Metropolis–Hastings 비율에서 GP 밀도가 정확히 상쇄되어 계산적 실현 가능성이 보장된다. 사후 예측 추론을 위한 정확한 깁스 샘플러(Gibbs sampler)는 무작위 트리 순회를 통해 불확실성을 전파한다. 병렬 MPI 구현은 독립적인 트리 업데이트를 여러 프로세서에 분산하여 적정 수준의 속도 향상을 달성한다. 우리는 항등식 $h(\Theta)=0$을 통해, 참 회귀 함수의 연속성만을 가정하고 모형 오지정(misspecification)을 허용하면서 헬링거(Hellinger) 거리에서 $n^{-1/4}$ 속도의 사후 일치성을 증명한다. Friedman 벤치마크에서의 시뮬레이션은 거의 명목 수준에 가까운 커버리지(가우시안 0.94, 코시 0.92)를 보였으며, 고차원 노이즈와 두꺼운 꼬리 분포에도 강건했고 BART와 배깅된 CART보다 우수한 성능을 보였다. QSAR 독성, 범죄, 리보플라빈, 밀 유전체학, 대기질 데이터에 대한 적용은 신뢰할 수 있는 신용구간과 자동 희소성을 확인해 준다. 이 DP 혼합 모델은 정직한 불확실성 정량화를 갖춘 도전적인 회귀 문제에 대해 원리에 기반하고 강건하며 이론적으로 뒷받침되는 대안을 제공한다.

arXiv:2609.27764v1cs.LG공통 태그 Anomaly Detection, Ensemble Learning

기호적 실패 탐지 학습: 머신러닝과 블랙-숄즈 모형의 한계

Learning to Detect Symbolic Failure: Machine Learning and the Limits of Black-Scholes

우리는 옵션 가격 결정을 표현(representation) 문제로 다룬다. 즉, 260만 건의 실제 옵션 계약을 사용하여 머신러닝이 블랙-숄즈(Black-Scholes)로부터의 체계적인 편차를 탐지할 수 있는가? 우리는 세 가지 방식을 비교한다. 학습된 추상 임베딩(커널 PCA), 보존된 도메인 구조(트리 기반 앙상블), 그리고 신경망 검증이다. 트리 기반 방법은 커널 차원 축소보다 21.5%p 높은 성능(93.8% 대 72.3%)을 보였으며, 도메인 전문가가 설계한 특징(그릭스, 머니니스)은 엔지니어링된 특징보다 더 우수한 성능을 보였다. 신경망 기반 편차 레이블과 BS 기반 편차 레이블은 99.9974%의 비율로 일치하며, 이는 편차가 모델의 인위적 결과물이 아니라 시장 구조를 반영함을 시사한다. 우리는 전문가가 설계한 기호적 특징이 존재하는 도메인에서는 추상화를 학습하는 것보다 구조를 보존하는 것이 더 낫다고 결론짓는다. 우리는 활용 가능한 오가격(mispricing)이 존재한다고 주장하지 않는다.

arXiv:2609.22512v1cs.AI공통 태그 Ensemble Learning, Model Selection

일치가 증거를 과장한다: LLM 판사 합의에서의 오류 의존성

Agreement Overstates Evidence: Error Dependence in LLM Judge Consensus

대규모 언어 모델(LLM) 판사 간의 합의는 종종 결정이 올바르다는 강력한 증거로 받아들여집니다. 이는 판사들이 독립적으로 오류를 범한다고 가정합니다. 실제로 LLM 판사들은 종종 유사한 방식으로 학습(training)되고 평가(evaluation)되므로 동일한 실수를 저지를 수 있습니다. 본 연구에서는 이러한 의존성이 합의의 신뢰성에 어떤 영향을 미치는지 살펴봅니다. 연구 결과, 오픈 가중치(open-weight) 판사와 프론티어(frontier) LLM 판사 모두에서 상당한 오류 상관관계가 있음을 발견했습니다. 10명의 판사로 구성된 주요 그룹에서 판사 오류 간의 평균 쌍별 상관관계는 0.21이었습니다. 그 결과, 10명의 판사는 약 3.5명의 독립적인 판사에 해당하는 통계적 정보만을 제공합니다. 이러한 의존성은 서로 다른 제공업체의 판사를 포함하여 본 연구에서 평가한 높은 정확도의 프론티어 판사들 사이에서 훨씬 더 강하게 나타납니다. 비교의 최대 28%에서 공유된 오류를 무시하면 한 시스템이 유의미하게 더 낫다는 결론에 이르는 반면, 이를 고려하면 그렇지 않았습니다. 또한 오류의 패턴이 중요하다는 점도 확인했습니다. 대부분의 판사가 공유하는 오류와 더 작은 집단에 집중된 오류는 합의에 서로 다른 영향을 미치며 서로 다른 투표 방식을 선호하게 만듭니다. 따라서 전반적인 상관관계의 양만 측정하는 것으로는 불충분합니다. 본 연구 결과는 간단한 접근법을 제안합니다. 신뢰할 수 있는 소규모 예제 집합을 사용하여 판사의 정확도를 추정하고 공유된 실수를 식별하는 것입니다. 그런 다음 결과를 분석할 때 이러한 공유된 오류를 고려해야 하며, 투표 방식은 새로운 데이터에 적용하기 전에 신뢰할 수 있는 예제를 사용하여 선택되어야 합니다.

arXiv:2607.22961v1cs.LG공통 태그 Ensemble Learning, Model Selection

Verbalized Particle Posterior: 자연어 가설에 대한 베이지안 추론

Verbalized Particle Posterior: Bayesian Inference over Natural Language Hypotheses

언어화된 머신러닝(VML)은 LLM이 f(x; θ)로 평가하는 자연어 프롬프트로 모델을 매개변수화한다. 이 프레임워크는 해석 가능하지만, 불확실성에 대한 측도 없이 단일 가설에 고정되며, 동일한 데이터에 대한 최적화 실행마다 그 가설이 크게 달라진다. 우리는 언어화된 학습을 베이지안 추론 문제로 다루는 Verbalized Particle Posterior(VPP)를 제안한다. 자연어 가설의 집단을 입자로 유지하고, Metropolis-Hastings(VPP-MH) 또는 Sequential Monte Carlo(VPP-SMC)로 갱신하며, 베이지안 모델 평균화로 예측한다. 두 알고리즘 모두 LLM을 블랙박스로 취급하며, logits나 gradient에 접근할 필요가 없다. 독특한 결과가 뒤따른다. 고전적 베이지안 학습에서는 모델 선택이 사후분포 밖에 있지만, VPP에서는 모델 구조와 매개변수가 단일 언어 공간을 공유하며, 사후분포가 둘 다에 걸쳐 분포한다. 우리는 회귀, 분류, 규칙 발견 벤치마크에서 VPP를 평가한다. 모든 벤치마크에서 단일 VML 실행보다 개선되며, 대부분에서 독립적 VML 실행들의 오라클 최적 앙상블과 동등하거나 그를 초과하고, VML이 가끔 발생시키는 치명적인 단일 실행 실패를 제거한다. 각 입자가 사람이 읽을 수 있는 가설이므로, 사후분포 자체가 독자가 검사할 수 있는 대상이 되어, 데이터가 어떤 설명을 지지하고 어떤 것을 배제했는지 평문으로 확인할 수 있다.

arXiv:2607.20768v1cs.CL공통 태그 Ensemble Learning, Model Selection

다양성 지표는 다양성을 측정하는가? LLM 앙상블에서 다수결 투표 이득에 대한 역량 통제 감사

Are Diversity Metrics Measuring Diversity? A Capability-Controlled Audit of Majority-Vote Gain in LLM Ensembles

LLM에 대한 다수결 투표는 다양성으로부터 이득을 본다고 널리 가정되며, 다양성 측정치는 어떤 모델을 결합할지 선택하는 데 사용된다. 우리는 이러한 다섯 가지 측정치가 다양성을 추적하는지, 아니면 주로 역량을 재표현하는지를 묻고, 명시적 역량 통제 하에서 MMLU-Pro에서 30개 LLM의 31,900개 부분집합(TruthfulQA에서는 29개)에 걸쳐 최고 성능 멤버 대비 다수결 투표 이득의 예측변수로서 이를 감사한다. 세 가지 발견이 도출된다. 첫째, 잠재적 상보성(latent complementarity)은 어디에나 존재한다. 오라클 이득은 모든 부분집합에서 양수이지만, 단순 투표는 전체 표준 크기-3 부분집합의 9.98%에서만(홀드아웃 최고 선택 시 18.71%) 최강 멤버를 이기며, 크기 2–4를 통합한 비율은 1.27%로, 이는 부분적으로 결정론적 짝수 크기 투표 행동을 반영한다. 둘째, 공동 정확도 프록시(strict diversity)는 평균 정확도를 1에서 뺀 값과 거의 공선(collinear)이다(크기-3 Spearman rho = +0.991 / +0.988). 원(raw) 다양성–이득 연관은 역량과 강하게 얽혀 있으며, 한 가지 예외를 제외하고 통제 하에서 불안정하다. 셋째, 세 가지 선형 분할표(contingency-table) 통계량은 대수적으로 분리 불가능(non-separable)하다. 역량 통제 후 경험적으로 안정적인 잔여는, 더 많은 공유 오류가 더 낮은 이득에 대응하는 완만한 잔차 쌍별 공동 실패(co-failure) 연관이다. 이 방향은 견고하지만 그 크기는 구성에 따라 달라진다. strict diversity, disagreement, double-fault를 독립 예측변수로 취급하는 공동 원(raw)공간 선형 회귀는 구조적으로 계수(rank) 부족(rank-deficient)이다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.