Black-box conditional quantile forecasts are widely used for sequential decisions under asymmetric costs. Once deployed, such forecasters must be monitored continuously as data streams drift and regimes change; this invalidates standard, fixed-horizon backtests for calibration. Further, existing backtests do not take into account that the notion of calibration is, in fact, information-dependent: forecasts can look calibrated to an auditor with coarse information while being miscalibrated to an auditor with richer information. We develop a distribution-free and game-theoretic testing framework for continuously auditing such forecasters with dependent, potentially nonstationary observations. We first formalize notions of conditional quantile calibration relative to the contextual features available to the auditor, showing how coarser information can limit detection. We then identify detectable alternative classes and, for contextual bets linear in the features, derive finite-time detection guarantees without an i.i.d. assumption. The resulting evidence processes provide interpretable, "feature-aware" evidence for miscalibration. We empirically validate these methods on simulated and real data, finding that a popular time series forecaster (Chronos-2) is highly miscalibrated w.r.t. multiple relevant features.
본 논문에서는 $T$ 라운드에 걸친 온라인 다중 클래스 다중 보정(online multiclass multicalibration)을 연구하고, 최악의 경우를 넘어서는(beyond-worst-case) 보장을 제공하는 알고리즘을 제시한다. $n$개의 가능한 결과가 주어질 때, 예측값은 $d=n-1$ 차원의 심플렉스(simplex) 내에 존재한다. 최악의 경우 누적 $\ell_1$ 다중 보정 오차의 스케일링은 $\widetildeΘ(T^{(d+1)/(d+2)})$를 따르며, 이는 $d$가 작은 상수를 넘어서면 감당하기 어려워진다. 본 연구의 알고리즘은 실현된 시퀀스의 기하학적 구조에 적응한다. 즉, 적대적으로 선택된 결과 평균의 시퀀스가 $s$ 차원의 아핀 부분공간(affine subspace)에 속하는 경우, 높은 확률로 $\widetilde O(n^{1/(s+2)}T^{(s+1)/(s+2)})$의 오차를 달성한다. 이 알고리즘은 해당 부분공간이나 그 차원을 알지 못하더라도 이러한 구조에 적응한다. $T\ge n\ge2$에 대해 이 속도는 다항 로그(polylogarithmic) 인수를 제외하고 미니맥스 최적(minimax optimal)이다. 고정된 조건부 평균을 갖는 확률적 인스턴스의 경우, 이 상한은 $\widetilde O(\sqrt{nT})$로 특화되어 시계(horizon)에 대해 제곱근 의존성을 제공한다.
신경망(NN)은 매우 유연하고 다재다능하지만 신뢰도 보정(calibration)이 제대로 이루어지지 않는 경우가 많습니다. 사후 캘리브레이션(post-hoc calibration) 방식은 별도의 캘리브레이션 데이터셋과 추가 파라미터를 사용하여 이미 학습된 모델의 출력을 조정합니다. 그러나 이러한 과정은 캘리브레이터의 독립적인 최적화와 후속 모델 선택을 필요로 하여 오버헤드를 가중시킵니다. 본 논문에서는 표준 사후 캘리브레이터를 이단계 슈타켈버그(bilevel Stackelberg) 정식화를 통해 백본과 함께 엔드투엔드(end-to-end)로 학습할 수 있음을 보입니다. 이 정식화는 교차 엔트로피를 사용해 정확도와 캘리브레이션을 결합 최적화함으로써 별도의 캘리브레이션 셋이나 전용 캘리브레이션 손실 없이도 동작하며, 캘리브레이터 학습률이라는 단 하나의 추가 하이퍼파라미터만을 도입합니다. 본 프레임워크는 온도 스케일링(temperature scaling) 및 행렬 스케일링(matrix scaling)부터 신경망 층에 이르는 다양한 캘리브레이터를 지원하지만, 실험 결과 최종 분류 층 자체를 캘리브레이터로 사용하는 것만으로도 추가 파라미터 없이 정확하면서도 잘 보정된 모델을 얻을 수 있음을 보여줍니다. 제안하는 접근법은 최소한의 복잡도 추가만으로 최신 최고 수준(SOTA)의 캘리브레이터들을 능가하며, 멀티태스크 학습과 같은 설정에서 별도 캘리브레이션 컴포넌트로 인해 발생하는 곱절의 오버헤드 또한 방지합니다.
정형 파운데이션 모델(TFM)은 뛰어난 예측 성능으로 인해 점점 더 인기를 얻고 있습니다. 많은 TFM은 사후 예측 분포(PPD)도 제공하지만, 이에 대한 신뢰성은 상대적으로 덜 연구되었습니다. 본 연구에서는 점 예측(point prediction), 분포 품질, 한계(marginal) 및 하위 집단 보정(subgroup calibration), 구간 효율성을 통해 신뢰성을 평가합니다. 그런 다음 이러한 비교 및 데이터셋 수준 분석을 위한 대규모 분류(classification) 및 회귀 벤치마크인 TabReliBench를 소개합니다. 연구 결과, TabArena와 본 벤치마크 간에, 그리고 여러 신뢰성 지표에 걸쳐 TFM의 순위가 달라지는 것을 확인했습니다. 회귀 TFM은 대개 공칭에 가까운 한계 커버리지(nominal marginal coverage)를 달성하고 좁은 구간을 유지하지만, 이러한 우수한 한계 거동이 유효한 조건부 커버리지를 보장하지는 않습니다. 데이터셋 수준 분석에 따르면 분류 난이도가 높을수록 보정 성능이 저하되는 경우가 흔한 반면, 회귀 예측 성능은 보정 성능의 신뢰할 수 있는 지표가 되지 못합니다. 앙상블은 예측 성능을 향상시키지만 PPD의 보정을 일관되게 개선하지는 않으며, TFM은 적합성 사후 처리(conformal post-processing)로부터 얻는 이점이 거의 없어 하위 집단 간의 격차를 안정적으로 해결하지 못합니다. 따라서 신뢰할 수 있는 TFM을 선택하기 위해서는 단순한 종합 순위를 넘어 다차원적인 평가가 필요합니다. 코드는 https://github.com/Tianqi-Zhao/TabReliBench 에서 확인할 수 있습니다.
등각 예측(Conformal prediction)은 유한 표본 보장을 제공하는 예측 집합을 산출하지만, 캘리브레이션에 필요한 라벨 검증 비용은 매우 클 수 있습니다. 본 연구에서는 완전 검증과 정확히 동일한 예측 집합을 반환하는 부분 검증 기법을 개발합니다. 등각 임계값을 결정하기에 충분한 검증 정보인 캘리브레이션 인증서(calibration certificate)의 특성을 규명하고, 여러 캘리브레이션 예시 간의 검증을 조율하는 절차를 설계합니다. 높은 커버리지에서의 유한한 임계값에 대해, 후보군을 순서대로 확인할 때 본 방법의 검증 비용은 최소 인증서 비용의 2배 미만입니다. 검색, 수학 문제 풀이, 구성 평가 전반에서 이 방식은 동일한 예측 집합을 생성하면서도 캘리브레이션 예시를 하나씩 검증하는 방식 대비 검증 비용을 15~82% 절감합니다.
2차 캘리브레이션 오차(second-order calibration error)는 고차 예측기(higher-order predictor)의 인식론적 불확실성(epistemic uncertainty) 추정치가 등위 집합(level set) 상에서 레이블 확률의 조건부 분산과 얼마나 잘 일치하는지를 정량화합니다. 본 논문에서는 분류기(classifier) 출력에 작은 섭동(perturbation)이 적용되는 체제에서 이진 분류(binary classification)를 위한 2차 캘리브레이션 오차 추정의 미니맥스 속도(minimax rate)를 규명합니다. 제안하는 절차는 간단합니다. 점수 좌표에 대역폭 $h$를 갖는 독립적인 sech 노이즈를 추가한 다음, 저차 다항식을 사용하여 섭동된 점수에 대해 $Y^{(1)}$ 및 $Y^{(1)}Y^{(2)}$를 회귀합니다. 결정적으로, sech 섭동은 캘리브레이션 함수를 적절한 띠(strip) 영역 내에서 해석적(analytic)이 되도록 만듭니다. 그 결과 도출된 추정량은 명시적 상수를 포함하여 $O_h(\log^{3/2}n/\sqrt n)$의 오차를 가집니다. 동일한 설정에서 매칭되는 $\Omega(1/\sqrt{n})$ 하한은 로그 인수를 제외하고 미니맥스 최적성을 입증합니다. 따름정리로서 섭동된 2차 플랫 스케일링(Platt scaling)에 대한 유한 표본 보장을 제공하며, 이는 섭동된 고차 예측기의 평균 예측과 인식론적 분산 추정치를 모두 재보정(recalibrate)하는 사후(post-hoc) 절차를 산출합니다. 이 과정에서 2차 캘리브레이션 오차의 명시적인 2차 적률(two-moment) 정식화를 제시하고 이를 Ahdritz 등[2025]의 버킷화된 정식화와 정량적으로 연결합니다. 실험을 통해 예측된 수렴 속도와 재보정된 불확실성의 품질을 확인합니다.
런타임 감독은 종종 대규모 언어 모델(LLM) 에이전트의 보정된 실패 점수가 임계값을 초과할 때 개입합니다. 그러나 동일한 실패 위험을 가진 상태라도 개입이 도움이 되는지 여부는 다를 수 있습니다. 엄격하게 증가하는 재보정은 임계값 정책 클래스를 유지하므로 이러한 차이를 복원할 수 없습니다. 본 연구는 개입 결정을 내리는 데 요약 정보가 충분한 조건과 그렇지 않을 때 손실되는 효용을 공식화합니다. 동일한 상태에서 에이전트의 접두 문맥(prefix)을 재실행하고 대안적 행동을 실행하여 그 결과를 평가합니다. ALFWorld에서 특징(feature), 추정기, 라우터를 고정한 채 지도 대상을 실패에서 개입 효용으로 변경하면 후회(regret)가 0.51에서 0.09로 감소하며, 에피소드 중간 접두 문맥으로 구성된 두 번째 테스트 세트에서도 이러한 개선이 재현됩니다. 실제로 배포 가능한 개입 학습 스칼라 역시 테스트 결과에 따라 선택된 실패 점수 임계값 규칙보다 우수한 성능을 보입니다. 고정된 더 강력한 모델로의 이관을 적용한 300개의 미확인 태스크 온라인 환경에서, 동결된 접두 문맥 특징 제어기는 실패 기반 라우팅에 비해 이관 빈도는 줄이고(35% 대 48%) 성공률은 높여(45% 대 37%) 효용을 개선합니다. 개선 폭은 개입 가치에 따라 달라지며 두 가지 추론 벤치마크에서는 작게 나타납니다. 감독 신호는 예측 품질뿐만 아니라 그것이 뒷받침하는 결정을 기준으로 평가되어야 합니다. 코드는 https://github.com/bennidict23/calibration-is-not-control 에서 확인할 수 있습니다.
대규모 언어 모델(LLM)은 이종(heterogeneous) 입력으로부터 실숫값 수량을 예측할 수 있는 유연한 회귀 모델로 부상했습니다. 그러나 대부분의 LLM 회귀 목적 함수는 예측을 독립적으로 최적화하므로 종종 보정(calibration) 성능이 떨어집니다. 본 논문에서는 동일한 입력에 대한 여러 예측으로 형성된 경험적 예측 분포를 공동으로 평가하는 온-정책(on-policy) 강화학습 목적 함수인 분포 인식 보상(Distribution-Aware Reward, DAR)을 소개합니다. 이러한 분포 수준의 목적 함수를 롤아웃(rollout) 수준의 보상으로 변환하기 위해, 전체 예측 분포의 품질에 대한 리브-원-아웃(leave-one-out) 기여도를 기반으로 각 예측에 신용을 할당합니다. 이는 타깃을 중심으로 잘 정렬되고 적절하게 분산된 예측을 유도합니다. 본 연구는 보간 및 외삽을 탐색하는 합성 태스크와 코드 및 분자 데이터를 포함하는 두 가지 실제 과학 태스크 등 세 가지 회귀 설정에서 평가를 수행합니다. 모든 태스크에 걸쳐 DAR은 지도 미세조정(supervised fine-tuning) 및 포인트와이즈 강화학습 대비 예측 오차를 지속적으로 줄이고 랭킹 품질을 향상시키는 동시에, 더 잘 보정된 불확실성 추정치를 생성합니다. 종합적으로 이러한 결과는 LLM 회귀를 위한 분포 인식 학습의 이점을 강조합니다.
예측 베이즈 추론(Predictive Bayesian inference, PBI)은 표준 베이즈 추론(Bayesian inference)에 대한 모델 및 사전확률에 구애받지 않는(model- and prior-agnostic) 접근법으로, 관측되지 않은 미래 데이터에 대한 전방 예측 모델(forward predictive model)만을 지정함으로써 사용자가 관심 있는 범함수(functional)에 대한 불확실성을 정량화할 수 있게 해줍니다. 이러한 프레임워크의 유연성과 범용성 덕분에 이 접근법을 구현하기 위한 수많은 새로운 알고리즘과 다양한 실증적 응용이 등장했지만, 관심 대상인 기저의 통계적 범함수에 대해 도출된 추론 결과의 신뢰성은 여전히 불분명합니다. 본 논문에서는 관심 대상인 모집단 범함수에 대해 PBI를 적용할 때, 도출되는 사후분포가 해당 방법의 기반이 되는 예측 재귀(predictive recursion)를 구현하는 데 사용된 전방 예측 모델에 명시적으로 의존하는 잘 정의된 양으로 집중(concentrate)됨을 증명합니다. 나아가, 전방 예측 모델은 PBI에서 생성되는 불확실성 정량화를 전적으로 결정합니다. 결과적으로 우리의 연구 결과는 예측 모델이 데이터의 모든 관련 특징을 포착하지 못할 경우, 매우 단순한 예시에서조차 관심 범함수의 모집단 값에 대한 예측 베이즈 신뢰 구간(credible sets)의 커버리지가 0에 임의로 가까워질 수 있음을 보여줍니다. 우리는 이러한 현상이 발생하는 이유를 면밀히 설명하며, 이 동작이 PBI 프레임워크 내에서 미래 관측값을 생성하는 데 사용된 전방 예측 모델의 부정확성과 직접적으로 연결되어 있음을 밝힙니다. 결론적으로, 우리의 연구 결과는 PBI가 캘리브레이션된 사후 추론을 제공하기 위해서는 사후 샘플을 생성하는 데 사용되는 예측 엔진이 잘 정의된 의미에서 참 데이터 생성 과정(DGP)을 포함해야 하며, 그렇지 않으면 이 프레임워크 하에서 생성된 추론은 캘리브레이션되지 않음을 시사합니다.
많은 실제 응용 분야에서 심층 신경망(DNN)의 강건성(robustness)과 안정성을 확보하는 것은 필수적이며, 특히 다양한 입력 섭동을 마주하는 이미지 분류 작업에서 더욱 중요합니다. 이러한 섭동에 대한 학습 모델의 복원력을 높이기 위해 믹스업(Mixup) 기반 데이터 증강 기법이 널리 채택되어 왔으나, 본 연구의 실험 결과 손상 강건성과 캘리브레이션(calibration) 사이의 중요한 트레이드오프가 밝혀졌습니다. 즉, 더 강력한 Mixup 기반 증강은 손상된 데이터에 대한 강건성을 향상시킬 수 있지만 기대 캘리브레이션 오차(ECE)를 크게 증가시킵니다. 이러한 문제를 해결하기 위해, 본 논문에서는 바세르슈타인 분포 강건 최적화(W-DRO)를 다양한 Mixup 기반 데이터 증강 전략과 통합하여 이 트레이드오프를 완화하는 프레임워크인 DRO-Augment를 제안합니다. 제안하는 방법은 CIFAR-10, CIFAR-100, CIFAR-10-C, CIFAR-100-C 전반에서 손상 정확도를 대체로 보존하면서 강력한 Mixup 기반 증강 환경에서 ECE를 대폭 낮춥니다. 이론적 측면에서는 W-DRO 문제와 밀접하게 연관된 변분 정규화 손실 함수를 증강 데이터와 함께 사용하여 학습된 신경망에 대한 새로운 일반화 오차 한계를 규명합니다. 나아가 손상 강도의 불일치를 바로잡은 정제된 CIFAR-C 벤치마크를 도입하여 향후 강건성 연구를 위한 보다 신뢰할 수 있는 평가 기준을 제공합니다.
대부분의 지도학습(supervised learning) 데이터셋 구축은 각 인스턴스에 대해 여러 개의 라벨을 수집한 뒤, 이를 집계하여 일종의 "참(true)" 라벨을 형성하는 방식을 중심으로 이루어집니다. 본 논문에서는 이러한 과정에 대한 (정형화된) 이론적 모델을 개발하고 그 통계적 귀결을 분석함으로써 이러한 파이프라인의 타당성에 의문을 제기하며, 정제된 라벨을 사용할 때보다 집계되지 않은 라벨 정보에 접근할 때 잘 보정된(well-calibrated) 모델을 학습(training)시키는 것이 어떻게 더 실현 가능해지는지 보여줍니다. 그러나 전체적인 맥락은 미묘하며, 집계된 라벨 정보와 더 완전한 라벨 정보 사이의 대비는 문제의 세부 사항에 따라 달라집니다. 즉, 집계된 정보를 사용하는 추정량(estimator)은 강건하지만 더 느린 수렴(convergence) 속도를 보이는 반면, 모든 라벨을 효과적으로 활용할 수 있는 추정량은 실제 라벨링 과정을 충실히 반영하거나 이를 학습할 수 있는 경우 더 빠르게 수렴합니다. 이 이론은 비집계 라벨이 학습 성능을 향상시켜야 하는 시점을 포함하여 실제 데이터셋에 대한 몇 가지 예측을 제시하며, 본 연구에서는 이러한 예측의 타당성을 입증하기 위해 검증을 수행합니다.
의사결정 모델(decision model)은 라우팅, 기권, 자동화된 조치를 목적으로 확률을 반환합니다. 캘리브레이션(calibration)은 이러한 확률을 평균적으로 유용하게 만들지만, 낮은 신뢰도가 단순 우연을 반영하는지 혹은 결측된 지식을 반영하는지, 그리고 모델이 자신이 아는 범위를 벗어날 때 신뢰도가 떨어지는지는 규명하지 못합니다. 본 연구에서는 고정된 항목에 제공되는 정보를 변화시키는 쌍체 개입을 활용하여, 15개 이상의 공개 데이터셋과 6개의 생성된 태스크 패밀리를 통해 의사결정 모델인 Jev에서 이러한 차이를 감사(audit)합니다. Jev의 신뢰도는 익숙한 폐쇄형 선택 태스크에서는 잘 보정(calibrated)되지만, 결측된 지식을 나타내는 지표로서는 실패합니다. 답변 관련 정보가 전혀 없는 경우에도 두드러진 선택지에 최대 0.80을 할당하며, 관찰된 지식 경계를 벗어난 뉴스에서는 정확도보다 0.21~0.33 높은 값을 보여 이전 달의 데이터로 재보정해도 이 격차는 좁혀지지 않습니다. 타깃팅된 예/아니오 질문은 해당 사례에 대해 더 명확한 판독 결과를 제공합니다. 결과가 확정되었는지 여부(AUROC 1.00) 및 증거가 충분한지 여부(동일 항목의 신뢰도 0.85 대비 0.95)를 더 잘 포착합니다. Jev에게 답을 알고 있는지 묻는 방식은 조작된 개체와 지식 경계 이후의 뉴스를 식별(0.91)하는 것처럼 보이지만, 현실적인 이름이 주어지거나 날짜가 제거되면 답변 불확실성 대비 아무런 이점을 보이지 않습니다. 따라서 블랙박스 지식 감사에는 표면적 단서에 대한 명시적인 통제가 필요합니다. 코드: https://github.com/Syntheme/beyond-answer-confidence.
Jev는 미리 정의된 답변 선택지에 확률을 부여하며 해당 선택지 외에는 답변할 수 없는 비생성형(non-generative) '시스템 1(System One)' 모델입니다. 의학 질의응답 및 사례 기반 진단 추론 과제에서 이 모델의 정확도와 캘리브레이션(calibration)은 아직 알려지지 않았습니다. 본 연구에서는 MetaMedQA, PubMedQA, DiagnosisArena-MCQ, 그리고 NEJM Case Challenges 등 네 가지 의학 벤치마크에서 Jev 1.13을 평가했습니다. (중간 수준의) 추론 기능이 적용된 경우와 적용되지 않은 GPT-6 Sol을 기준 모델로 삼았습니다. 1차 평가 지표는 Top-1 정확도였으며, 주요 2차 평가 지표는 캘리브레이션, 선택적 예측(selective prediction), 답변 불가능한 질문의 인식이었습니다. 총 8,469건의 모든 요청에서 유효한 답변이 반환되었습니다. Jev의 정확도는 PubMedQA에서는 중간 수준 추론을 사용한 GPT-6 Sol과 유사했으나(78.4% 대 78.2%), MetaMedQA에서는 더 낮았고(74.8% 대 82.7%), DiagnosisArena-MCQ(59.8% 대 82.4%)와 NEJM 사례(61.8% 대 82.4%)에서는 훨씬 낮았습니다. MetaMedQA에서 Jev의 확률값은 가장 잘 캘리브레이션되었으며(기대 캘리브레이션 오차 0.063 대 0.146), 확률이 0.9 이상인 답변(전체 질문의 52.9%)의 정확도는 93.4%였으나, GPT-6 Sol 역시 비슷한 비율의 질문을 수용했을 때 동등한 수준의 정확도를 보였습니다. DiagnosisArena-MCQ에서 Jev의 확률값은 판별 능력이 떨어졌습니다(AUROC 0.645 대 0.768). 정답이 '모르거나 답변할 수 없음'인 162개 질문 중 Jev는 10.5%에서 해당 선택지를 선택했습니다(GPT-6 Sol은 8.6%). 중앙값 지연 시간은 0.27~0.31초였으며, 2,823개 전체 항목의 비용은 0.08달러였습니다. Jev는 빠르고 저렴하며, 연구 논문 초록에 대해서는 프론티어 대규모 언어 모델(LLM)과 유사한 정확도를 보였으나 시험 문제에서는 더 낮았고 복잡한 진단 사례에서는 훨씬 낮았습니다. 임상에 적용하기 전에는 과제별 검증이 필수적입니다.
한 과제에서 LLM 심판에 대해 적합시킨 스칼라 재보정 맵은 과제 분포가 바뀌면 실패할 수 있지만, 소스-타깃 정확도 격차는 그 실패에 대한 대리 지표로 자주 취급된다. 13개의 심판, 2개의 생성기, 8개 도메인, 1,176개의 사전 선언된 전이에 걸쳐 이 격차가 무엇을 예측할 수 있고 무엇을 인증할 수 있는지 검증한다. 평균 점수 이동을 보정한 뒤, 격차는 타깃 보정 오류에 대한 모집단 하한을 제공하지만, 동일한 격차가 상반된 전이 결과를 낳을 수 있다. 정확한 importance weighting은 공변량 이동(covariate shift) 하에서 타깃 proper 손실을 복원하므로, 추정 가중치 파이프라인의 실패만으로는 조건부 이동이 성립한다고 볼 수 없다. 유한 표본 동시 하한 인증서는 평가 결과와 분리된 감사 레이블을 사용하여 모집단 하한을 일측 거부 규칙으로 변환한다. 누수 없는 격차 상관은 0.25(95% CI [-0.09, 0.55])이며, 두 번째 생성기에서는 0.09로 떨어지고 생성기 불변 연관을 뒷받침하지 않는다. 인증서는 명목 coverage를 유지하지만 m=1024에서도 검정력이 0.13이고, 반면 16개 레이블을 사용한 타깃 도메인 temperature scaling은 harm rate 0.09에 도달하며, 소스에서 적합한 Platt scaling은 0.34이다. 따라서 정확도 격차는 스칼라 확률 전이에 대한 약한 경고 신호일 뿐이며, 배포 인증서가 아니다.
이 논문은 손해보험 계리 모델링에서 가장 널리 사용되는 모델 검증(validation) 도구들을 체계적으로 정리한다. 여기에는 보정 도표(calibration plot), 실제 대 기대(actual-vs-expected) 도표, 리프트 차트(lift chart), 머피 다이어그램(Murphy diagram)과 같은 그래프 도구뿐 아니라, 브레그만 손실(Bregman loss), 편차 손실(deviance loss), 기초 손실(elementary loss), 머피 분해(Murphy's decomposition), 지니 점수(Gini score)와 같은 고전적인 통계 도구가 포함된다. 특히 보정(calibration)과 판별(discrimination)을 계약 건수 가중(policy-weighted) 모집단 측도 하에서 연구하는지, 아니면 노출 가중(exposure-weighted) 모집단 측도 하에서 연구하는지에 중점을 둔다. 이 구분은 보험료 체계가 올바른 척도에서 보정되도록 하는 데 매우 중요하다.
자동 예측의 신뢰 여부를 결정하는 핵심 요소는 신뢰도 점수(confidence score)이며, 이는 예측이 맞을 실제 확률과 일치하도록 보정(calibration)되어야 합니다. 대부분의 신뢰도 캘리브레이션 지표는 이진 또는 다중 클래스(multi-class) 태스크를 대상으로 하는 반면, 다중 레이블(multi-label) 캘리브레이션은 여전히 미개척 분야로 남아 있습니다. 임상 기록에 의료 코드를 부여하거나 뉴스 주제를 결정하는 등의 다중 레이블 분류(classification) 태스크는 일반적으로 해당하지 않는 레이블인 방대한 양의 음성(negative) 데이터가 지배적입니다. 우리는 레이블별 기대 캘리브레이션 오차(expected calibration error)를 계산하기 위한 기존의 구간화(binning) 방식들이 오차를 과소평가하거나 단순히 레이블 빈도를 반영하거나 인스턴스가 극히 적은 구간이 다수 발생하는 문제를 겪는다는 것을 보입니다. 신뢰할 수 있는 레이블별 캘리브레이션 오차를 얻기 위해, 우리는 양성 및 음성 레이블 할당에 동일한 가중치(weight)를 부여하는 새로운 구간화 방식을 제안합니다. 실증 연구를 통해 제안된 새로운 방식이 기존 방식과 대조적으로 계층적(hierarchical) 및 극단적 다중 레이블 분류(extreme multi-label classification)에서 유의미한 캘리브레이션 오차 추정치로 이어진다는 점을 입증합니다. 또한 대규모 언어 모델(LLM)의 다중 레이블 예측 신뢰도 점수를 보정하는 것이 여전히 미해결 과제임을 밝힙니다. 우리의 상세한 분석은 다중 레이블 분류에서 캘리브레이션을 측정하기 위한 탄탄한 평가(evaluation) 지표를 제공함으로써 후속 연구를 위한 기반을 마련합니다.
방사선 판독문 생성에서 대규모 비전-언어 모델(LVLM)을 안전하게 배포하기 위해서는 정확한 예측뿐만 아니라, 출력을 면밀히 검토해야 할 시점을 임상적으로 해석 가능하게 알려주는 지표가 필요하며, 이를 통해 영상의학과 전문의의 선택적 검증을 가능하게 하고 환각(hallucination)된 소견이 임상적 결정에 영향을 미치는 위험을 줄일 수 있다. 이에 대한 한 가지 직관적인 접근법은 모델이 자신의 확실성을 명시적으로 진술하는 언어화된 확신도(verbalized confidence)이다. 그러나 현재의 최첨단 언어 모델은 종종 과도한 확신(overconfident)을 가지며, 방사선 판독문 생성과 같은 멀티모달 환경에서의 캘리브레이션(calibration, 보정)에 관한 연구는 제한적이다. 이러한 공백을 해결하기 위해, 우리는 방사선 판독문과 함께 보정된 언어화된 확신도 추정치를 생성하도록 의료 LVLM을 미세조정(fine-tuning)하는 강화학습(reinforcement learning) 프레임워크인 ConRad(Confidence Calibration for Radiology Reports)를 도입한다. 우리는 단일 판독문 수준의 확신도 점수와 각 주장에 확신도를 할당하는 문장 수준 변형이라는 두 가지 설정을 연구한다. 두 방식 모두 오보정(miscalibration)에 불이익을 주어 진실된 자기 평가를 유도하고 보상 극대화 시 최적의 캘리브레이션을 보장하는 로그 점수 규칙(logarithmic scoring rule) 기반 보상(reward) 함수와 함께 GRPO 알고리즘을 사용하여 학습된다. 실험을 통해 ConRad가 캘리브레이션을 실질적으로 개선하고 경쟁 방법들보다 뛰어난 성능을 보임을 확인하였다. 임상적 평가에서는 ConRad의 판독문 수준 점수가 임상의의 판단과 잘 일치함을 보여준다. ConRad는 집중적인 검토를 위해 전체 판독문이나 확신도가 낮은 진술을 강조 표시함으로써 판독문 생성을 위한 AI 보조 기능의 보다 안전한 임상 통합을 지원할 수 있다.
공공 교통사고 데이터베이스는 자동화된 안전 분석을 점점 더 지원하지만, 모델이 주로 일반 분류기로만 평가될 때 교통사고 중증도 예측을 공공 부문 의사결정 워크플로에 반영하기는 여전히 어렵다. 본 연구는 �치매 관련 교통사고 중증도 모델링을 의사결정 인식 트리아지 문제로 재구성한다. 시스템은 사고를 부상 없음·재산 피해만(O), 경미 또는 중등도 부상(BC), 치명 또는 중증 부상(KA)으로 분류해야 하며, 동시에 결과 누출(outcome leakage)을 통제하고, 심각한 과소 트리아지(under-triage)를 보고하며, 신뢰도를 보정(calibration)하고, 감사를 위해 모든 원시 예측을 보존해야 한다. 구조화 필드와 경찰 서술을 포함한 텍사스 교통사고 기록 4,781건을 사용하여, 계층화 70/15/15 분할 하에서 구조화, 서술, 융합, 보정 융합, BERT 계열, 로컬 대규모 언어 모델(LLM) baseline을 평가한다. 보고된 분할에서 누출 통제 Gemma가 가장 높은 관측 macro-F1(0.545; 95% 부트스트랩 CI [0.507, 0.583])을 기록한다. 최상의 보정 융합 모델은 macro-F1 0.522와 기대 보정 오차(expected calibration error) 0.033을 얻는다. 선택적 위임(selective deferral)은 자동 분류에 남겨진 사례에서 성능을 개선한다. 70% 커버리지에서 macro-F1은 0.573으로 상승하고 중증도 비용(severity cost)은 0.577로 감소하며, 위임된 사례는 제안된 인간 검토 절차 후보로 취급되고 본 실험에서는 추가로 평가되지 않는다. 본 연구는 교통사고 AI 시스템을 위한 재현 가능하고 누출 통제되며 불확실성 인식 평가 프레임워크를 제시하며, 정확도만이 아니라 감사 가능성과 선택적 위임을 강조한다.
대규모 언어 모델(LLM)은 도메인, 주제 난이도, 언어적 스타일에 따라 구조화된 이질적인 집단을 대상으로 한다. 컨포멀 리스크 제어(CRC)는 기권(abstention)을 포함한 선택적 예측에 대해 엄밀한 주변(marginal) 리스크 보장을 제공하지만, 주변 보장이 그룹별 보장을 의미하지는 않는다. 모델은 전체 모집단 예산을 충족하면서도 하위 그룹에 체계적으로 과도한 오류 노출을 일으킬 수 있다. 그룹 구성의 경미한 변화(shift) 하에서 표준 CRC는 최대 47%의 시행에서 예산을 위반한다. 우리는 사용자가 정의한 그룹 계층의 모든 노드에 걸쳐 동시 리스크 보장을 강제하는 사후(post-hoc) 보정 프레임워크인 HG-CRC(Hierarchical Group-Conditional CRC)를 제안한다. 이는 노드에 대한 Bonferroni 보정과, 적용 가능한 가장 구체적인 임계값을 사용하는 leaf-first 정책을 적용하며, 더 세분화된 노드가 미인증(uncertified)이거나 예시를 거부할 때는 더 거친(coarser) 노드로 대체(fallback)한다. 재학습 없이 보류(hold-out) 보정 세트만 필요하다. 세 가지 모델(Qwen3-4B, Llama-3.1-8B-Instruct, Gemma-3-4B)과 두 벤치마크(ARC Challenge, MMLU-Pro)에 대해, IID 일반화, 이질성, 혼합/도메인/프롬프트/난이도 변화, 레이블 노이즈, 양자화를 탐구하는 여덟 가지 구성으로 평가한다. 주요 결과: HG-CRC는 고정확도 모델(Qwen3-4B, Llama-3.1-8B)에 대해 ARC Challenge에서 경험적 위반율 0%와 WGER=0에 도달한다. 500회 부트스트랩 시행에서 이 0값들은 경험적 상한(실제 비율 최대 0.6%)이며, 인증(certified)된 것은 아니다. 결과는 벤치마크별로 다르다. MMLU-Pro에서는 이 모델들이 전면 기권하거나(Llama) WGER=0.014를 유지한다. 여기서 보정이 잘 되지 않은 Gemma-3-4B는 기권을 통해 우아하게 성능이 저하된다. 전역 CRC 대비 참여(participation) 비용은 22~37%p이다. ablation은 계층적 깊이가 예산을 충족함을 보여준다. 난이도 수준을 제거하면 위반이 약 11%로 되돌아간다. Bonferroni는 이론적 보장에 필요하지만, 그 경험적 효과는 노드가 많을 때만 중요하다.
테스트 시점 적응형 분포 외(OOD) 탐지기는 라벨 없는 입력 스트림으로부터 메모리 뱅크를 갱신한다. 우리는 이 적응이 증명 가능한 동역학 법칙을 따름을 보인다. 뱅크 불순도를 일반화된 Pólya urn으로 모델링하여, 기울기가 재생산 수(reproduction number)로 작용하는 mean-field 균형으로 거의 확실(almost-sure) 수렴함을 증명한다. 1 미만이면 불순도는 무해하게 유지된다. 1을 초과하면 뱅크는 완전히 독화되고 탐지기는 붕괴한다. 측정된 admission 커널은 아핀(affine)($R^2 \ge 0.996$)이며 모든 인코더 계열에서 기울기가 1 바로 아래(프로토콜 시그니처)이므로, 이 탐지기 클래스는 설계상 near-critical이고, 96개 설정 전반에서 예측된 임계값이 경험적 붕괴와 일치하며, 게이트 없는 사전은 최대 $0.163$ AUROC를 잃는다. 이어서 frozen reserve만을 읽는 인증된 admission 게이트가 피드백 루프를 차단하고 모든 오염률에서—even 적대적(adversarial) 상황에서도—전이(transition)를 제거하면서 라벨 없이 false positive를 제어함을 증명한다. drift 하에서의 보완적 정적 보정 실패에 대해서는 CDC를 제시하며, 이는 테스트된 모든 drift 영향 셀에서 명목 FPR을 라벨 없이 복원한다. 마지막으로 two-world 불가능성 정리를 증명한다. drift와 오염(contamination)은 라벨 없이는 구별 불가능하며, 이는 우리 절차가 접근하는 폐형식 power 상한을 강제한다. 이들은 함께 라벨 없는 적응형 OOD 탐지의 완전한 가능/불가능 특성화를 제공한다.