Quantifying the uncertainty in predictions made by machine learning models is challenging in online settings where the characteristics of the data and labels change over time. Online conformal prediction (OCP) methods tackle this problem by producing intervals for each observation and guaranteeing that a proportion of them contain their labels, a property known as marginal coverage. OCP methods, however, may systematically miscover observations belonging to groups defined by attributes like age or race, raising fairness concerns. Group-conditional OCP (G-OCP) methods address this by producing intervals that provide coverage for multiple groups. Existing approaches rely on learning rates, which control how they react to changes in the data stream, but can be hard to tune in online settings. Leveraging advancements in learning-rate-free methods, we develop a learning-rate-free G-OCP algorithm with strong group-coverage guarantees that hold under weaker assumptions than those required in prior work. Empirical results show that our method provides group coverage, produces interval lengths competitive with those of standard methods, and reacts more effectively to changes in the data than fixed-learning-rate methods.
능동적 테스트 타임 적응(Active Test-Time Adaptation, ATTA)은 감독(supervision) 정보를 선택적으로 요청하면서 추론(inference) 중에 배포된 모델을 업데이트함으로써 분포 변화(distribution shift) 하에서의 강건성을 향상시킵니다. 그러나 대부분의 기존 ATTA 방식은 들어오는 모든 테스트 배치(batch)에 대해 감독을 요청할 수 있다고 암묵적으로 가정하므로, 긴 테스트 스트림에 걸쳐 상당한 라벨링 비용이 발생할 수 있습니다. 본 연구에서는 테스트 배치의 일부에 대해서만 레이블을 사용할 수 있는 예산 제약 기반의 ATTA(budgeted ATTA)를 소개합니다. 이러한 정형화는 핵심 과제를 배치 내에서 무엇에 레이블을 지정할지 결정하는 문제에서 시간에 따라 언제 감독을 적용해야 하는지 결정하는 문제로 전환합니다. 이 문제를 해결하기 위해, 온라인으로 계산되는 경량 신호에 기반하여 테스트 스트림 전체에 걸쳐 감독을 할당하고 감독이 가장 유용할 것으로 예상되는 시점을 우선시하는 예산 인식 접근 방식인 WISE-ATTA를 제안합니다. 감독 대상 배치가 선택되면, 지속적이고 아직 수렴되지 않은 적응 역학을 보이는 샘플을 목표로 하는 드리프트 기반 샘플 선택 기준을 추가로 적용하여 단 하나의 레이블된 예시로도 효과적인 업데이트를 가능하게 합니다. 우리는 합성 손상(ImageNet-C) 및 자연 분포 변화(ImageNet-R/K/A) 환경에서 이 접근 방식을 평가합니다. 다양한 설정 전반에 걸쳐 WISE-ATTA는 훨씬 적은 레이블을 사용하면서도 최신 ATTA 방식과 비교해 경쟁력 있거나 향상된 성능을 달성합니다. 전반적으로 우리는 감독의 타이밍이 능동적 테스트 타임 적응에서 핵심적이면서도 아직 충분히 탐구되지 않은 측면임을 확인했습니다. 코드: https://github.com/Muhammad-Huzaifaa/WISE-ATTA
본 논문에서는 초과 위험(excess risk)을 추정, 드리프트, 근사 성분으로 분해하여 비정상 가중 위험 최소화(nonstationary weighted risk minimization)에서의 분포 드리프트를 분석합니다. 기존에는 드리프트 오차를 예측 모델(predictor) 클래스 전반에 걸친 위험의 변화를 제어하는 불일치 유형의 양(discrepancy-type quantities)을 통해 제한하는 것이 일반적이었습니다. 이와 달리 본 연구에서는 드리프트 오차를 모델 클래스 내 최적 예측 모델의 이동과 직접 연관 짓고, 매개변수화된 회귀 모델에서 이러한 거동을 분석합니다. 우리의 분석에 따르면 불일치 유형의 양은 지나치게 보수적일 수 있습니다. 본 논문의 오라클 드리프트(oracle drift)와 달리, 이러한 기존 양은 그에 따른 초과 위험 기여도보다 더 큰 차수로 스케일링될 수 있으며, 최적 예측 모델에 영향을 주지 않는 위험 표면의 변화에도 반응할 수 있습니다. 선형 회귀에 대해 우리는 이러한 격차를 정밀하게 규명하고, 그에 따른 드리프트 경계를 추정 보장과 결합합니다. 나아가 비모수 회귀로도 분석을 확장합니다.
선형 모델은 기저 메커니즘이 비선형적인 경우에도 복잡한 도메인에서 우수한 예측 성능을 보일 수 있습니다. 본 연구에서는 세상의 복잡성이 유한하고 부분적으로만 관측된 데이터로부터 신뢰성 있게 학습(training)할 수 있는 복잡성을 초과하기 때문에 이러한 현상이 발생할 수 있다고 주장합니다. 유연한 모델은 특정 병원, 기간, 집단, 정책 환경(environment) 또는 측정 과정에는 적합하지만 다른 환경에서는 실패하는 곡률, 임계값, 상호작용을 과도하게 활용할 수 있습니다. 이러한 불안정성이 주로 비선형 구성 요소에 존재하는 경우, 이를 생략함으로써 새로운 환경에서 선형 모델의 예측 오차를 더 낮출 수 있습니다. 본 논문은 이 주장을 단순 선형 규칙, 바이어스(bias) 및 분산, 정규화(regularization), 최적 선형 예측, 측정 오차, 분포 변화(distribution shift), 불변성, 라쇼몽 집합(Rashomon sets), 그리고 과소지정(underspecification)에 관한 연구들과 연결합니다. 명제 1(Proposition 1)은 학습 환경에서 학습된 비선형 규칙이 너무 약하게 전이되어 대상 오차를 증가시키는 단순 제곱 오차 사례를 제시하며, 유한 표본 추정 오차는 이러한 결과를 더욱 강화할 수 있습니다. 부분 관측만으로는 충분하지 않으며, 관측된 변수와 관측되지 않은 요인 간의 연결 관계가 환경 전반에 걸쳐 변화해야 합니다. 안정적인 비선형 구조는 유연한 모델에 유리하지만, 선형 모델 역시 선형적인 가짜 관계(spurious relationships)에 취약한 상태로 남아 있습니다. 따라서 모델 복잡성은 학습 데이터의 정확도뿐만 아니라 환경 간 안정성을 함께 고려하여 선택되어야 합니다.
많은 과학적 질문은 한 번도 관측되지 않은 것에 대한 추론을 요구한다: 조건, 개입, 혹은 역사가 달랐다면 어땠을까? 모델은 관측된 데이터에서는 정확하게 예측할 수 있지만, 상관된 입력들을 독립적으로 변화시키는 이러한 가정적(what-if) 질의에서는 실패할 수 있다. 일반적인 해결책은 이러한 요인들이 명시적으로 분리된 통제된 시뮬레이션 데이터를 추가하는 것이지만, 이는 시뮬레이터에 대한 접근을 필요로 하고, 계산 비용이 높을 수 있으며, 시뮬레이터의 모델링 가정을 그대로 물려받는다. 우리는 ReRoute를 소개한다. 이는 사실적(factual) 데이터와 부분적인 메커니즘 지식을 결합하여 목표로 하는 과학적 가정 예측을 수행하는 프레임워크로, 적응을 위한 통제된 개입(intervention) 데이터를 필요로 하지 않는다. ReRoute는 사전학습된 백본(backbone)의 질의 대상 입력을 기준값(reference value)으로 고정한 뒤, 알려진 메커니즘 경로(mechanistic pathway)를 통해 그 변동을 다시 도입하고, 원본 사실적 데이터로 파인튜닝을 수행하며, 하류(downstream) 효과는 학습된 동역학(dynamics)에 맡긴다. 우리는 명시적인 구조적 가정 하에서 이러한 구성에 대한 인과적 식별(causal identification) 결과를 제시하며, 핵심 논증은 Lean을 이용해 기계적으로 검증되었다. 정확한 응답을 얻을 수 있는 통제된 이송-확산(advection-diffusion) 시스템에서 ReRoute가 매우 정확한 반사실적 예측을 달성함을 보인 뒤, 우리는 최신(state-of-the-art) 기후 에뮬레이션(climate emulation)으로 눈을 돌린다. 홀드아웃(held-out)된 결합 기후(coupled-climate) 개입에 대해, ReRoute는 심각한 CO$_2$ 분포 변화(distribution shift) 하에서 전체 기후 오차를 18.2-31.8% 감소시키는 동시에 표준 조건에서의 성능(skill)은 그대로 유지하며, 이러한 데이터를 생성하는 데 드는 상당한 비용을 고려하지 않더라도 추가적인 통제된 시뮬레이션으로 재학습하는 비용의 일부에 불과한 비용으로 이를 달성한다. 마지막으로, 반사실적 기준(reference)이 존재하지 않는 과거 ERA5 재분석(reanalysis) 데이터로 학습된 에뮬레이터에서, ReRoute는 고정 CO$_2$ 반사실적 조건(fixed-CO$_2$ counterfactual) 하에서 관측된 경계 조건(boundary conditions)이 시사하는 지표면 온난화(surface warming)를 상당히 더 많이 보존한다.
안전 라우터는 각 요청을 여러 모델 중 하나로 보내며, 단일 최선 모델과 비교하여 평가된다. 주요 라우팅 벤치마크는 평가 데이터 상에서 이러한 비교 대상을 선택한다. 벤치마크 자체의 설정에서는 이것이 무해하지만, 분포 변화(distribution shift) 하에서는 그렇지 않다. HELM Safety에서 이러한 선택 비용은 무작위 분할 시 0.003-0.030의 위해(harm) 수준이며, 홀드아웃(held-out) 범주에서는 0.045-0.113으로, 라우팅 탓으로 돌려진 전체 결손과 맞먹는 수준이고 그 방향성은 기발표된 어느 한 심사자(judge) 기준 단독으로도 유지된다. AgentDojo에서 스위트(suite)가 홀드아웃될 때는 이것이 7배에서 9배까지 증가한다. 사전에 고정된 규칙에 따라 선택된 7개 안전 말뭉치 전반에서 3개는 사전 등록된 구간 검정을 충족하고 4개는 사후 순열 영가설(permutation null)을 능가하며, 구간 검정을 통과하지 못한 4개 중 3개는 일부 모델의 관측된 위해가 0인 말뭉치들이다. 선행 연구는 이러한 바이어스의 방향성을 입증한다. 본 연구는 위해와 정확도 측면에서 그 크기를 측정하고, 우리가 측정한 홀드아웃 분할 하에서 이것이 더 큼을 보이며, 낙관주의(optimism)와 변화 의존적 리그렛(regret)의 합으로 이를 한계 짓는다. 변화 하에서 정직하게 채점할 경우, 이러한 벤치마크들에서 라우팅이 가져다주는 이점은 거의 없다. 대부분의 풀 셀(pool cell)에서 중첩된 라우터는 정직한 기준선의 모델을 제공하며, 거의 포화 상태인 AgentDojo 말뭉치에서 완벽한 사전 디스패치(pre-dispatch) 라우터의 가치는 최대 2포인트의 위해 감소에 불과하다. 또한 우리는 후기 주입(late injection)에 대해 모델이 표출하는 인식이 조향 가능(steerable)함을 발견했다. 홀드아웃 재실행에서 자신이 마주한 모델을 아는 공격자는 GPT-5.4의 판정된 인식을 19.6포인트 낮추며, 이는 독립적인 레이블에 의해서도 확인된다. 제어기로의 오프라인 반사실적 합성(counterfactual composition)에서, 동일한 공격은 대체(fallback) 모델에 따라 추정 위해를 높이거나 낮춘다. 안전 라우팅은 변화 하에서, 테스트 레이블 없이 선택된 기준선과 비교하여 평가되어야 하며, 인식 기반 방어는 모델이 보는 것을 선택하는 공격자에 맞서 위해를 기준으로 채점되어야 한다.
스코어 기반 확산 모델(score-based diffusion models)은 기저 데이터 분포가 학습(training) 분포와 다를 수 있는 환경에서 점차 많이 고려되고 있으나, 기존의 이론적 보장은 주로 분포 변화가 없는 환경에 초점을 맞추고 있습니다. 본 연구에서는 기준 분포의 바서슈타인 섭동(Wasserstein perturbations) 하에서 강건한 스코어 추정을 연구합니다. 오룬슈타인-울렌벡(Ornstein-Uhlenbeck) 확산에 대해, 강건한 추정이 두 가지 핵심 요소, 즉 기준 분포를 학습하는 데 따르는 통계적 비용과 분포 변화 자체의 본질적 비용으로 분해됨을 보입니다. 후자는 바서슈타인 반경에 대해 2차(quadratically)로 스케일링되며, 이러한 의존성은 미니맥스 최적(minimax optimal)입니다. 우리는 변화 반경을 알지 못하더라도 도출된 강건한 미니맥스 속도를 달성하는 명시적인 유한 표본 추정기를 구성합니다. 기준 분포가 미지의 저차원 부분공간에 놓여 있을 때, 통계적 항은 본질적 차원에 적응하는 반면 변화 비용은 변하지 않은 채 유지됩니다. 마지막으로, 우리는 동일한 분해가 양의 시간 역방향 샘플링(positive-time reverse sampling)에도 적용됨을 보이고 KL 발산에서 일치하는 미니맥스 보장을 도출합니다. 종합적으로, 이러한 결과들은 유한한 데이터, 본질적 차원, 그리고 분포 변화가 스코어 기반 확산 모델의 강건성에 미치는 영향을 규명합니다.
딥 신경망은 많은 비전 벤치마크에서 인간을 능가하지만, 조명 및 날씨 변화와 같은 분포 이동에 대해서는 여전히 훨씬 덜 강건하다. 기존 접근법은 추가 학습 데이터, 광범위한 증강, 아키텍처 수정, 또는 테스트 시점 적응을 통해 이 과제를 해결한다. 본 연구에서는 보완적 방향을 탐구한다. 인간 망막에서 영감을 받아, 조명 변화에 대해 더 안정적인 신호를 추출하는 고정된, 모델에 무관한 전처리 모듈을 제안한다. 우리의 방법은 색상 리매핑과 국소 대비 추출을 결합하여 구조적 특징을 강조하는 희소 표현을 생성한다. Cityscapes에서 학습하고 Dark Zurich 및 ACDC에서 불리한 조건 하의 일반화를 평가함으로써 시맨틱 분할에 대한 영향을 연구한다. 결과는 생물학적 영감을 받은 전처리가 분포 내 성능을 유지하는 동시에, 주석이 달린 학습 데이터가 희소한 야간과 같은 어려운 조명 시나리오에서 강건성을 일관되게 향상시킴을 보여준다. 또한 대비 기반 표현이 최대 70%까지 희소화되어도 분할 정확도는 안정적으로 유지된다. 이러한 이득은 입력 표현 자체를 재고하는 것이 강건성을 향상시킬 수 있음을 시사하며, 희소성이 수집에 가까운 곳에서 활용될 수 있을 때 낮은 지연시간, 전송 인식 이미징 센서를 위한 기회도 열어준다.
통계학과 머신러닝의 근본적인 가정은 '미래가 과거와 같을 것'이라는 것으로, 이는 교환가능성(exchangeability)으로 형식화된다: 결합 데이터 분포가 순서 불변이어야 한다는 것이다. 실제로 이 가정은 시간에 따른 분포 변화(distribution shift)로 인해 자주 위반된다. 교환가능성 위반을 조기에 탐지하는 것은 성능 저하를 방지하고 모델 재학습과 같은 적시 개입을 가능하게 하는 데 매우 중요하다. 컨포멀 검정 마팅게일(conformal test martingales)은 컨포멀 p-값의 균일성에 베팅함으로써 보장된 오경보율(false-alarm rate) 제어와 함께 순차적 교환가능성 검정을 위한 유연하고 분포 무관(distribution-free) 프레임워크를 제공한다. 플러그인 마팅게일 및 혼합 기반 전략과 같은 대안들이 존재하지만, 단순 점퍼(Simple Jumper)와 같은 계산 효율적인 기준선은 평균 위치 이동(mean location shift) 탐지에 국한된다. 우리는 단순 점퍼를 고차 모멘트(higher-order moments)로 확장하는 이동 르장드르 다항식(shifted Legendre polynomials) 기반의 컨포멀 검정 마팅게일 계열을 제안한다. 단순 르장드르 점퍼(Simple Legendre Jumper)는 선형 베팅 함수를 임의 차수의 다항식으로 대체하여 분산, 왜도 및 기타 고차 편차를 신속하게 탐지할 수 있게 한다. 곱 르장드르 점퍼(Product Legendre Jumper)는 여러 다항식 차수를 단일 베팅 함수로 결합하지만, 점핑 세금(jumping tax)이라 불리는 지수적 상태 공간 증가 문제를 겪는다. 이를 해결하기 위해, 우리는 평균장 근사(mean-field approximation)를 활용하여 최소한의 검정력 손실로 복잡도를 단계당 상수 시간으로 줄이는 변분 르장드르 점퍼(Variational Legendre Jumper)를 도입하며, 이는 실시간 분포 변화 모니터링을 위한 표현력 있고 확장 가능한 프레임워크를 제공한다.
컨포멀 예측(conformal prediction)은 교환 가능성(exchangeability) 가정만을 전제로 보장된 커버리지를 갖는 분포-무관 예측 집합을 구성하기 위한 강력한 프레임워크로 부상하였다. 그러나 이 가정은 데이터 분포가 시간에 따라 변화하는 온라인 환경에서 자주 위반된다. 이러한 한계를 해결하기 위한 여러 최신 접근 방식이 제안되었으나, 일반적으로 예측을 전방향(forward) 방식으로만 갱신하기 때문에 분포 변화에 느리게 적응한다. 즉, 이전에 계산된 예측은 갱신되지 않은 채 새로 관측된 데이터 포인트에 대해서만 예측이 생성된다. 본 논문에서는 분포 변화에 더 빠르게 적응하도록 설계된, 소급 조정(retrospective adjustment)을 갖춘 새로운 온라인 컨포멀 추론 방법을 제안한다. 제안하는 방법은 효율적인 리브-원-아웃(leave-one-out) 갱신 공식을 활용한 회귀 접근 방식을 통해, 새로운 데이터가 도착할 때 과거 예측을 소급하여 조정함으로써 전체 예측 집합을 가장 최신의 데이터 분포에 정렬시킨다. 합성 데이터셋과 실제 데이터셋 모두에서 수행된 광범위한 수치 실험을 통해, 제안된 접근 방식이 명목 수준에 근접한 커버리지를 달성하면서 기존 온라인 컨포멀 예측 방법 대비 예측 구간 너비를 최대 약 30% 감소시킴을 보여, 더 빠른 적응과 함께 향상된 통계적 효율성을 입증한다.
Graph neural networks (GNNs) are increasingly deployed in real-world applications where distribution shift is un-avoidable. However, how such shifts affect model calibration, defined as the agreement between predictive confidence and actual accuracy, remains poorly understood, and existing graph calibration methods typically rely on labeled validation data from the deployment distribution. In this work, I present the first closed-form theoretical characterization of GNN calibration under distribution shift. I show that calibration is governed by a single scalar quantity that explicitly depends on structural changes between the source and target graphs, as well as feature quality. This characterization precisely identifies when a model becomes over-confident, under-confident, or remains calibrated, and directly yields the optimal temperature scaling strategy. I further extend the analysis to graph convolutional networks with symmetric normalization, multi-class classification, and covariate shift, and derive a theoretical upper bound on the expected calibration error. My analysis also reveals that, under homogeneous distribution shift, a single global temperature is theoretically optimal, providing a principled explanation for why more complex node-wise recalibration methods offer no additional benefit. Building on these theoretical insights, I propose STAC, a source-free, label-free calibration method. Experiments on synthetic benchmarks demonstrate substantial calibration improvements, while evaluations on five real-world graph datasets show that reliable calibration without target labels remains challenging despite the strong predictive power of the theory.
시간적 지식 그래프(TKG)는 진화하는 관계형 시스템을 나타내며, 그 기저의 데이터 생성 과정은 시간에 따라 변화하는 경우가 많다. 그러나 TKG 예측 모델은 일반적으로 이러한 분포 변화에 대한 모델의 견고성에 제한적인 통찰만을 제공하는 실증적 벤치마크 데이터셋에서만 평가된다. 이 문제를 인식하여, 우리는 재발(recurrence), 동질성(homophily), 주기성(periodicity)이라는 세 가지 시간적·구조적 속성을 데이터 생성 메커니즘으로 인코딩한 합성 TKG 생성기를 사용하여, 통제된 변화 환경 하에서의 TKG 예측을 연구한다. 이를 통해 정상(stationary) 및 변화(shifting) 체제 하에서 일곱 가지 예측 아키텍처를 평가한다. 실험 결과, TKG 예측에서의 견고성은 신호에 크게 의존함을 시사한다. 재발 기반 및 주기적 규칙성은 정상 조건에서 대체로 복원 가능하며, 재발이 데이터를 지배할 때 단순한 메모리 기반 기준선이 경쟁력을 가질 수 있다. 그러나 구조적 단절은 모델 적응성의 한계를 드러내며, 잠재적 엔티티-커뮤니티 구조의 변화가 본 연구에서 가장 큰 도전 과제로 나타난다. 전반적으로, 본 연구의 결과는 시간적 분포 변화에 직면한 현재 TKG 모델의 능력과 한계에 대한 이해를 향상시킨다.
자율주행 모션 플래너의 분포 외 일반화와 실행 오류 복구 능력을 체계적으로 평가하기 위해, 시맨틱 변화(Semantic Shift)와 상태 분포 드리프트(State-Distribution Drift)라는 두 축으로 구성된 이중 트랙 벤치마크 Shift & Drift를 제안한다. DeepScenario Open 3D 데이터셋을 nuPlan 프레임워크로 변환한 1,182개 제로샷 시나리오 평가 결과, 모방 학습 기반 플래너는 새로운 도시 환경에서 최대 76% 성능 저하를 보인 반면, 강화학습 기반 CaRL은 고강도 노이즈 환경에서도 8% 이하의 성능 저하로 더 강건한 복원력을 보였다.
PARA-PV는 태양광(PV) 발전 예측의 정확도를 높이기 위해 물리적 지식을 예측 전 과정에 내재화한 검색-증강(retrieval-augmented) 프레임워크로, 물리 인식 검색 학습기, 고정된 Chronos 기반 모델 기반의 시간적 사전(prior) 보정, 분포 이동 보정 모듈, 그리고 피크·램핑·야간 등 레짐별 적응적 손실 함수를 결합한다. 두 개의 지리적으로 상이한 PV 발전소 실험에서 7개의 베이스라인 대비 일관되게 우수한 포인트 및 확률적 예측 성능을 1M 미만의 학습 가능 파라미터로 달성하였다.
베이즈 보조 등각 예측(conformal prediction)에서 사전 분포가 데이터와 맞지 않을 때 예측 집합의 크기가 커지는 한계를 해결하기 위해, RoBAS(Robust Bayes-Assisted Shrinkage) 프레임워크를 제안하며 잔차(residual) 기반의 강건한 비적합성 점수(nonconformity score)를 구성한다. 사전 정보가 신뢰할 수 있을 때는 이를 활용해 효율적인 예측 구간을 생성하고, 그렇지 않을 때는 자동으로 DTA(Distance-To-Average) 점수로 복귀하여 분포 이동(distribution shift) 환경에서 기존 방법 대비 구간 너비를 크게 줄인다.
이미지 분류, 텍스트 분류, 텍스트 회귀 등 세 가지 시계열 도메인에서 MLP, CNN, RNN, Transformer 등 다양한 신경망 아키텍처의 시간적 분포 변화(temporal distribution shift) 강건성을 temporal drift matrix 기반 통합 평가 프레임워크로 체계적으로 비교 분석했다. 국소적·고판별 특징을 활용하는 아키텍처는 인도메인 성능이 높지만 시간에 따라 빠르게 성능이 저하되는 반면, 사전학습된 인코더는 더 안정적인 표현에 의존해 성능 하락이 점진적임을 실증적으로 보였다.
딥러닝 기반 기후 다운스케일링에서 역사 데이터로 학습된 모델이 미래 기후 분포에 적용될 때 발생하는 시간적 OOD 문제를 해결하기 위해, 지도 학습 기반 고해상도 복원과 도메인 정렬을 결합한 시간적 도메인 적응 프레임워크를 제안한다. 미국 본토 일별 기온 다운스케일링 실험에서 제안 모델은 분포 변화가 클수록 더 큰 성능 향상을 보이며, 특히 고지대 및 지형이 복잡한 지역에서의 극단값 편향을 효과적으로 감소시켰다.
인수분해 가능 결합 변이(FJS)를 범주형 레이블에서 일반 레이블 공간(분류 및 회귀 모두)으로 확장하는 분석 프레임워크를 제안하며, 이를 기반으로 기존 FJS 결과를 일반화하고 클래스 사전 확률 추정을 위한 EM 알고리즘의 레이블 분포 추정 확장을 제시한다. 또한 일반 레이블 공간에서 일반화 레이블 변이(GLS)와 FJS의 관계를 새롭게 재조명한다.
완전 파인튜닝된 RoBERTa만으로도 여러 AI 생성 텍스트 탐지 벤치마크에서 특화된 탐지기와 동등하거나 이를 능가하며, 이는 최근 복잡한 아키텍처 설계가 분포 내 탐지 성능의 핵심이 아님을 시사한다. 분포 이동(distribution shift) 환경에서는 탐지기가 미관측 도메인의 인간 작성 텍스트에 높은 신뢰도로 기계 레이블을 부여하는 핵심 실패 패턴이 나타나며, LoRA 어댑터 기반 K-shot MAML 적응과 신뢰도 가중 앙상블로 이를 부분적으로 완화할 수 있음을 보인다.
테스트 타임 적응(TTA)에서 엔트로피 최소화의 과소명세(underspecification) 문제를 해결하기 위해, 단일 파라미터 추정 대신 출력·파라미터·옵티마이저·입력 수준의 다단계 다양화를 통해 여러 적응 궤적을 동시에 탐색하는 파티클 기반 다중 가설 프레임워크를 제안한다. ImageNet-C 등 벤치마크에서 기존 Tent, SAR, DeYO 대비 혼합 분포 변화에서 3~4%, 배치 크기 1 설정에서 2~3%의 성능 향상을 달성하며 플러그 앤 플레이 방식으로 기존 TTA 방법에 적용 가능함을 입증했다.