PyTorchKR Papers

최신 논문

총 824편
태그·기간 등 상세 필터

카테고리 탐색

arXiv:2609.29575v2stat.ME

[DeepGOF] 로지스틱 위험 모델은 어디에서 실패하는가? 모델 개발 및 외부 검증을 위한 감사된 신경망 적합도 검정

[DeepGOF] Where Does a Logistic Risk Model Fail? An Audited Neural Goodness-of-Fit Test for Model Development and External Validation

로지스틱 회귀에 대한 적합도 검정(Goodness-of-fit test)은 임상 위험 모델링에서 일상적으로 사용되지만, 고전적 검정은 모델의 부적합 여부만 알려줄 뿐 어디서 부적합한지는 알려주지 않습니다. 사전학습된 네트워크는 유의수준(level), 검정력(power), 그리고 사각지대가 규명되기 전까지는 검정이라 할 수 없습니다. 본 연구에서는 적합된 로지스틱 모델의 잔차를 두 공변량 순위 기반의 맵으로 표현하고, 고정된 합성곱 신경망으로 해당 맵의 점수를 매기며, 분석가의 모수적 붓스트랩(parametric bootstrap)을 통해 점수를 보정하는 DeepGOF-1을 감사합니다. 유의수준은 표준 붓스트랩 정칙성 및 두 가지 조건 하에서 1차 유효하며, 지정된 대립가설에 대한 일치성은 단 한 번의 순전파로 결정되고, 국소 검정력은 명시적인 극한을 갖습니다. 시뮬레이션에서 유의수준은 환자 수 20명부터 8,873명까지 유지되었으며, 다수의 공변량 중 부적합이 희소하게 존재할 때 네트워크는 동일한 맵에 대한 카이제곱 통계량 대비 검정력을 향상시킵니다. 또한 해당 맵은 단일 공변량 진단으로는 볼 수 없는 누락된 상호작용을 발견하며, 새로운 환자에 대해 발표된 위험 모델에 적용했을 때 캘리브레이션 벨트(calibration belt)의 검정력이 거의 없는 환자 하위 그룹 내 캘리브레이션에 대한 정확히 유효한 검정 역할을 합니다. 입원 환자 8,873명을 대상으로 한 SUPPORT 연구에서 DeepGOF-1은 선형 원내 사망률 모델을 기각하였고, 해당 맵은 캘리브레이션 곡선이 숨기는 혈압 및 호흡수의 U자형 위험을 보여주며 모델 수정을 안내합니다. 이 검정은 13초 만에 실행되었으나, 가장 강력한 옴니버스 경쟁 기법인 프로젝션 검정은 동일한 데이터에서 9시간 53분과 4.5 GB를 소모하여 일상적으로 사용하기에는 너무 느렸습니다. 이 검정은 R 패키지 ebrahim.gof의 deepgof1()으로 제공됩니다.

arXiv:2608.20511v2stat.ME

[EDGE] 소수의 손상된 레코드를 허용하는 로지스틱 회귀를 위한 그룹화된 보정 검정

[EDGE] A grouped calibration test for logistic regression that tolerates a few corrupted records

Hosmer-Lemeshow 보정(calibration) 검정은 유효한 기준 분포를 얻기 위해 예측 위험도에 따라 환자를 그룹화하지만, 그룹 수를 늘려도 회복할 수 없는 검정력(power) 손실이 발생합니다. 이후에 등장한 검정법들은 각 레코드의 잔차(residual)에만 개별적으로 가중치를 부여하므로 취약성을 띱니다. 다른 부분은 올바른 모델이라 하더라도 1,000개 중 1개의 레코드에서 공변량(covariate)이 손상되면 Stukel 스코어 검정의 오경보율(false-alarm rate)이 5%에서 12%로 증가하며, 10개일 경우 63%까지 상승합니다. 동일한 크기의 그룹에 대한 풀링(pooling)은 잘못된 레코드의 잔차를 같은 그룹 내 다른 레코드들의 분산으로 나누어 그 영향을 제한합니다. 풀링이 없으면 재적합 후에도 이러한 방향성들은 Stukel 검정만큼 취약해집니다. 본 연구에서 제안하는 검정인 EDGE는 그룹화된 잔차를 보정 형태의 작은 기저(basis)에 투영합니다. 자유도(degrees of freedom)가 그룹 수에 의존하지 않으므로, 분할은 검정력을 높이기 위한 세분화나 레코드 오류 가능성이 있을 때의 조대화(coarsening)가 가능한 설정값이 되며, 기준 분포를 얻기 위해 재표본추출(resampling)이 필요하지 않습니다. 사전에 지정된 시뮬레이션에서 EDGE는 깨끗한 데이터셋에 대해 Stukel 검정과 대등한 검정력을 보였으며, 10개 그룹 Hosmer-Lemeshow 검정보다 평균 0.064 더 강력했습니다. 1,000개 중 1개 및 10개의 과장된 공변량이 있을 때 오경보율은 각각 0.056과 0.097이었으며, 10개 그룹 설정에서는 약 10개의 과장되거나 5개의 반전된 레코드까지 0.10 미만을 유지했습니다. 외부 검증(validation)에서 10개 그룹일 때의 평균 검정력은 Cox의 재보정 검정 및 GiViTI belt와 동등했으며, 1,000개 중 10개의 반전된 레코드가 존재할 때 다른 검정들과 달리 오경보율이 0.10 미만으로 유지되었습니다. 70,000명의 환자 코호트에서 해당 검정의 판정 결과는 분할 방식에 따라 달라지지 않았습니다.

arXiv:2510.03226v2stat.CO

베이즈 혼합 모델을 위한 빠른 비가역 샘플러

A fast non-reversible sampler for Bayesian mixture models

혼합 모델(mixture model)은 베이즈 모델링(Bayesian modelling)의 핵심 요소이며, 그로부터 얻어지는 사후 분포(posterior distribution)에서 샘플링하는 것이 어려운 과제임은 잘 알려져 있다. 특히, 널리 쓰이는 가역(reversible) 마르코프 연쇄 몬테카를로(Markov chain Monte Carlo) 기법들은 관측치 수 $n$이 클 때 수렴 속도가 느린 경우가 많다. 본 논문에서는 (구성 요소 수가 고정되었거나 가변적인) 베이즈 혼합 모델을 위한 새롭고 단순한 비가역(non-reversible) 샘플링 기법을 소개하며, 이 기법이 많은 주요 시나리오에서, 특히 수렴 단계 동안과 혼합 모델의 구성 요소들이 무시할 수 없을 정도로 겹칠 때 기존 샘플러들을 크게 능가함을 보인다. 이론적 측면에서는, 제안된 비가역 기법의 점근 분산(asymptotic variance) 기준 성능이 표준 기법보다 4배 이상 나빠질 수 없음을 보이며, 스케일링 극한(scaling limit) 분석을 통해 비가역 샘플러가 수렴 시간을 O$(n^2)$에서 O$(n)$으로 줄일 수 있음을 시사한다. 또한 혼합 모델의 통계적 특성이 왜 비가역 이산 샘플러(discrete sampler) 사용에 이상적인 사례인지도 논의한다.

arXiv:2312.10234v4stat.ME공식 코드 · Papers with Code

전방문 모델 하에서 인과 효과에 대한 유연한 비모수적 추론

Flexible Nonparametric Inference for Causal Effects under the Front-Door Model

관찰 연구에서 인과적 처치 효과를 평가하려면 교란(confounding) 문제를 해결해야 합니다. 후방문 기준(back-door criterion)은 관찰된 공변량 조정을 통해 식별을 가능하게 하지만, 측정되지 않은 교란이 존재할 때는 실패합니다. 반면 전방문 기준(front-door criterion)은 처치 효과를 완전히 매개하며 처치-결과 쌍의 미측정 교란 변수로부터 영향을 받지 않는 변수를 활용하여 대안을 제공합니다. 본 논문에서는 전방문 가정 하에서 평균 처치 효과(ATE)와 처치받은 집단에 대한 평균 처치 효과(ATT) 모두를 추정하기 위한 새로운 1단계(one-step) 추정량 및 타깃 최소 손실 기반 추정량(TMLE)을 개발합니다. 제안하는 추정량은 매개변수 밀도 모델링을 완전히 배제하는 접근 방식을 포함하여 관찰된 데이터 분포의 다양한 모수화를 기반으로 구축되며, 유연한 머신러닝 기반 성가신 모수(nuisance) 추정과 호환됩니다. 또한 2차 나머지 경계(second-order remainder bounds)를 유도하여 root-n 일치성 및 점근적 선형성을 위한 조건을 확립합니다. 나아가 일반화된 (Verma) 독립성 제약을 인코딩하는 전방문 모델의 준모수적 확장 내에서, 이중 강건(doubly robust) 검정 절차를 포함하여 식별 가정을 평가하기 위한 유연한 검정 방법을 개발합니다. 더불어 이러한 제약을 활용하여 인과 효과 추정량의 효율성을 향상시킬 수 있는 방법도 제시합니다. 시뮬레이션 연구를 통해 우수한 유한 표본 성능을 확인하였으며, 교육 및 응급 의학 분야의 실제 데이터 적용 사례를 통해 제안 방법의 실질적인 유용성을 입증합니다.

arXiv:2610.03679v1cs.LG

바서슈타인 라그랑지안 잔차를 이용한 시뮬레이션-프리 개체군 동역학 학습

Simulation-Free Learning of Population Dynamics with Wasserstein Lagrangian Residuals

세포, 유기체, 유체의 동역학은 흔히 시간에 따라 변화하는 확률분포로 모델링된다. 짝지어지지 않은(unpaired) 스냅샷으로부터 이러한 변화를 재구성하고 외삽하려면 기저 과정에 대한 가정이 필요하다. 바서슈타인 그래디언트 흐름(Wasserstein gradient flow)은 흔히 사용되는 선택이지만, 보존적(conservative) 동역학이나 주기적(periodic) 동역학은 설명할 수 없다. 바서슈타인 공간에서의 라그랑지안 역학(Lagrangian mechanics)은 두 경우를 모두 다룰 수 있지만, 이를 학습하는 기존 방법들은 시뮬레이션 기반이어서 매 학습 단계마다 수치 해법기(numerical solver)를 실행해야 하므로 학습 비용이 크다. 우리는 학습된 개체군 경로(population path)를 따라 운동 방정식(equation of motion)의 잔차(residual)에 페널티를 부과하여 이러한 역학을 학습하는 시뮬레이션-프리 방법인 Double-Stitch를 제안한다. 우리는 그래디언트 속도를 필요로 하지 않는 클레프시(Clebsch) 변분 원리로부터 이 방정식을 유도하고, 방정식이 성립할 때 잔차가 정확히 0이 됨을 보인다. 우리는 Double-Stitch를 합성 데이터셋, 단일 세포(single-cell) 데이터셋, 해양 소용돌이(ocean vortex) 데이터셋에서 테스트하였으며, 대부분의 과제에서 그래디언트 흐름 방법 및 시뮬레이션 기반 WLM과 동등하거나 이를 상회하는 성능을 보이면서도 WLM보다 4~14배 더 빠르게 학습됨을 확인하였다. 우리는 Double-Stitch의 JAX 구현을 https://github.com/BasisResearch/stitching 에서 제공한다.

arXiv:2610.02754v1cs.LG

오르내리기: 이산형 서열 데이터를 위한 디노이저 확산 모델

Jumping up and down: Denoiser diffusion models for discrete ordinal data

확산 모델(Diffusion models)은 이미지 및 비디오 도메인의 연속 공간에서 고도로 발전해 왔습니다. 최근에는 범주형 데이터, 특히 언어 도메인을 위한 이산 확산 모델에서도 큰 진전이 이루어졌습니다. 반면 이미지와 음악부터 유전자 수에 이르기까지 널리 사용되는 모달리티임에도 불구하고, 이산형 정수값 데이터를 위한 확산 모델은 상대적으로 덜 발달되어 있습니다. 본 논문에서는 이산형 서열(ordinal) 데이터를 위한 새로운 디노이저 기반 확산 모델 계열인 JUD(Jumping Up and Down)를 소개합니다. 이는 디노이저 학습을 중심으로 하면서 동시에 데이터의 양방향(상하) 섭동(perturbation)을 허용하는 서열 데이터용 최초의 확산 모델 계열입니다. 학습 목표의 단순성과 양방향 섭동의 유연성이 결합되어, 다양한 데이터 모달리티 전반에 걸쳐 경쟁력 있는 결과를 얻을 수 있었습니다.

arXiv:2610.01823v1stat.ME

일반화된 인그레션 모델

Generalized Engression Models

본 연구에서는 공변량이 주어졌을 때 다변량 반응 변수의 조건부 분포를 추정하는 문제를 다룬다. 여기서 반응 변수의 각 좌표는 연속형, 이진형, 범주형, 순서형 또는 순위형일 수 있으며 서로 조건부 종속성을 가질 수 있다. 각 결과 유형별로 다양한 통계적 방법들이 개발되어 왔으나, 대부분은 결과 벡터의 결합 분포보다는 각 좌표의 평균과 같은 조건부 분포의 요약 통계량을 목표로 한다. 본 연구에서는 모든 유형의 결과에 적용 가능한 통합 비모수 분포 회귀(distributional regression) 프레임워크인 일반화된 인그레션(generalized engression) 모델을 개발한다. 제안된 방법은 스코어링 규칙(scoring rule) 기반 딥 생성 모델인 인그레션(engression)을 바탕으로 구축되었으며, 데이터 유형별 링크 함수와 손실을 평활화하는 확률적 섭동(stochastic perturbation)을 도입하여 불연속적인 링크 함수에서도 그래디언트 기반 학습을 가능하게 한다. 또한 연속형, 이산형 및 혼합형 결과에 대한 보편적 표현(universal representation) 결과를 규명한다. 시뮬레이션과 두 가지 실제 적용 사례인 군집 생태학 벤치마크의 242개 종 데이터와 17차원 혼합형 건강 결과 데이터에서, 본 방법은 주변 스코어에서 유형별 특화 모델과 대등한 성능을 보이고 결합 분포에서는 이를 능가하며, 목적에 맞게 구축된 최첨단 결합 종 분포 모델(joint species distribution models)과 대등하거나 이를 능가하는 성능을 보인다. 소프트웨어는 Python으로 제공된다.

arXiv:2610.01448v1stat.CO

스큐대칭(skew-symmetric) 분포와 몬테카를로 샘플링 알고리즘에서의 활용: Barker 제안의 좌표-무관, Gibbs 방식 및 매니폴드 버전

On skew-symmetric distributions and their use in Monte Carlo sampling algorithms: coordinate-free, Gibbs-style and manifold versions of the Barker proposal

스큐대칭(skew-symmetric) 확률분포는 그래디언트 정보를 마르코프 연쇄 몬테카를로(Markov chain Monte Carlo) 알고리즘에 통합하는 원리적인 방법을 제공한다. 본 논문에서는 스큐대칭 분포를 기반으로 구축된 Metropolis–Hastings 알고리즘인 (preconditioned) Barker 제안을 검토하고 그 설계의 동기를 제시한다. 이어서 세 가지 자연스러운 확장을 소개한다. 첫째, Barker 알고리즘의 좌표-무관(coordinate-free) 변형을 제안한다. 둘째, 부분적으로 갱신된 각 좌표에서 그래디언트를 재평가하는 Gibbs 방식의 Barker 알고리즘을 소개한다. 셋째, 단순화된 매니폴드(manifold) Barker 알고리즘을 유도하여, 자연스러운 비교 대상들에 비해 강건성(robustness)이 향상된 매니폴드 샘플러를 생성한다. 수치 실험을 통해 다음을 보인다: Gibbs 방식 변형은 상관관계가 있는 타겟 분포에서 순수 샘플링 효율성을 향상시키며, 좌표-무관 변형은 계산 비용을 고려하면 표준 Barker 제안에 비해 실질적인 이점이 제한적이고, 단순화된 매니폴드 Barker 알고리즘은 타겟의 국소 기하학적 구조가 불규칙하거나 신뢰할 수 없을 때 단순화된 매니폴드 MALA에 비해 상당한 이점을 얻을 수 있다.

arXiv:2610.01050v1math.ST

그래디언트 유도 밀도 피크 군집화

Gradient-Guided Density Peak Clustering

밀도 피크 군집화(Density Peak Clustering, DPC)는 각 관측치를 더 높은 밀도를 가진 가장 가까운 이웃에 연결하고, 비정상적으로 큰 최근접 이웃 오르막 이동(uphill shift)을 보이는 고밀도 관측치를 군집 중심으로 식별합니다. 그러나 관측치에서 군집 중심으로 이어지는 결과 오르막 경로는 저밀도 영역에서 불규칙하고 불안정할 수 있어, 군집 할당이 국소 섭동(local perturbation)에 민감해지고 DPC 그래프의 모집단 기하학적 구조를 모호하게 만듭니다. 본 논문에서는 각 최근접 이웃 오르막 탐색 전에 그래디언트 상승(gradient ascent) 단계를 수행하는 그래디언트 유도 밀도 피크 군집화(GGDPC)를 소개합니다. 우리는 GGDPC 그래프를 모집단 밀도의 그래디언트 상승 흐름과 연결하는 안정성 이론을 개발합니다. 특히 국소 최빈값 복원, 수정 랜드 지수(Adjusted Rand Index), 덴드로그램(군집 트리), 경로 길이, 워터폴 측정이라는 다섯 가지 상호보완적 기준 하에서 GGDPC의 일관성을 확립합니다. 종합적으로 이러한 결과들은 DPC 계열 군집화 알고리즘에 대한 새로운 통계적, 기하학적, 위상수학적 해석을 제공합니다.

arXiv:2610.01005v1stat.ML

허용 오차 기반 공정성 감사: 위반 인증 및 민감도 스크리닝

Tolerance-Based Fairness Auditing: Violation Certification and Sensitivity Screening

인공지능의 도입이 증가함에 따라 알고리즘의 불공정성에 대한 우려가 커지고 투명한 공정성 감사에 대한 요구가 강화되고 있습니다. 실제로는 알고리즘 불공정성의 허용 가능한 정도가 구체적인 법적, 윤리적 또는 응용 맥락에 따라 달라집니다. 사전에 지정된 허용 오차 임계값이 주어졌을 때, 서로 다른 감사 목적에 걸쳐 집단 간 격차가 허용 범위를 초과하는지 여부를 어떻게 판단할 것인가는 중요한 통계적 문제입니다. 이 문제를 해결하기 위해, 본 연구는 두 가지 상호 보완적인 감사 목적을 위한 통합된 허용 오차 기반 공정성 감사 프레임워크를 개발합니다. 이는 허위 위반 선언의 제어를 우선시하는 위반 인증(violation certification)과 누락된 위반을 줄이는 것을 우선시하는 민감도 스크리닝(sensitivity screening)입니다. 첫 번째 목적을 위해, 최소 유리점(least-favorable-point) 캘리브레이션을 사용하고 동시 하위 그룹 감사를 위한 허위 지목률(false flagging rate) 제어와 결합할 수 있는 정규 환경용 제약 경험적 가능도(empirical likelihood) 검정을 개발합니다. 두 번째 목적을 위해, 조기 경보 환경을 위한 적응형 경계-대리(adaptive boundary-proxy) 원리를 사용하는 분할 경험적 가능도 및 조정된 분할 경험적 가능도 검정을 개발합니다. 수치 실험을 통해 이러한 절차들의 뚜렷한 오류 제어-민감도 절충 관계(trade-off)를 확인합니다. COMPAS 분석을 통해 예측 공정성 감사에서의 프레임워크 활용을 설명합니다.

arXiv:2610.00993v1stat.ML

상관된 테스트의 대가: 모델 릴리스 게이트는 얼마나 엄격해야 하는가?

The Price of Correlated Tests: How Strict Should a Model Release Gate Be?

머신러닝 모델을 배포하기 전에는 대개 일련의 자동화된 테스트를 통과해야 합니다. 모든 테스트를 통과하도록 요구하는 것은 안전해 보이지만, 사용자에게 유용했을 많은 모델을 기각할 수 있으며, 통과한 모델이 실제로 얼마나 신뢰할 수 있는지 알려주지 않습니다. 본 연구에서는 릴리스 게이트를 설계 문제로 다룹니다. 즉, 통과된 모델이 명시된 신뢰성 목표를 충족하는 동시에 가능한 한 많은 우수한 모델을 유지하도록 모델이 통과해야 하는 테스트 수를 선택하는 문제입니다. 2-클래스 잠재 요인 모델을 통해 두 비용을 명시적으로 드러내고 각 계산을 1차원 적분으로 단순화합니다. 두 클래스가 동일한 잠재 상관관계를 공유할 때 더 엄격한 게이트가 항상 신뢰성을 높이므로, 우수한 모델을 가장 많이 유지하는 게이트는 목표를 여전히 충족하는 가장 관대한 게이트임을 증명합니다. 모든 테스트를 통과해야 하는 게이트 방식(pass-all gating)에서는 완벽에 가까운 어떤 신뢰성 목표도 모델 내에서 달성할 수 있지만, 테스트 모음이 커질수록 유지되는 우수한 모델의 비율은 0으로 수렴합니다. 테스트 간의 상관관계가 이러한 대가를 결정합니다. 한 구성에서는 99% 목표를 달성하기 위해 독립적인 테스트 8개가 필요하지만, 잠재 상관관계가 0.3일 때는 74개, 0.5일 때는 5,182개의 테스트가 필요하며 이때 게이트는 우수한 모델 10개 중 1개 미만만 유지합니다. 또한 게이트가 고정된 최종 후보군에서 선택되는 경우에도 라벨링된 데이터로부터 게이트를 인증하는 정확한 이항 경계 기반의 검증 절차를 제시합니다.

arXiv:2610.00498v1stat.ME

이분산 표준형 폴리애딕(CP) 텐서 분해

Heteroskedastic Canonical Polyadic Tensor Decomposition

제곱오차 손실(squared-error loss)을 최소화할 때, 널리 사용되는 CP 분해는 저랭크(low-rank) 평균 텐서와 텐서 전체 원소에 대해 일정한 분산을 갖는 가우시안 모델에서의 매개변수 추론으로 해석될 수 있다. 본 논문에서는 원소별 변동성을 비일정(non-constant) 저랭크 정밀도 텐서로 모델링하는 이분산-CP(heteroskedastic-CP, HCP)를 제안하고, 잡음이 포함된 관측값으로부터 저랭크 평균 텐서와 정밀도 텐서를 모두 복원하기 위한 교대 블록 좌표 상승(alternating block-coordinate ascent) 방법을 개발한다. 본 절차는 CP-ALS와 동일한 최고차 인자 업데이트(factor-update) 복잡도를 가지며, 계산적으로 경쟁력이 있다. 합성 실험과 EEG 응용을 통해 HCP를 시연한다.

arXiv:2610.00072v1stat.ME

동적 공간 베이지안 머신러닝 모델: 미국의 세대 간 경제적 이동성 및 지리적 소득 불평등에 대한 응용

Dynamic Spatial Bayesian Machine Learning Model: Applications to Intergenerational Economic Mobility and Geographic Income Inequality in the United States

우리는 고차원 시공간 패널 데이터를 위해 호스슈 축소(Horseshoe shrinkage)를 적용한 동적 공간 패널 베이지안 가산 회귀 트리 모델(Dynamic Spatial Panel Bayesian Additive Regression Trees model, DSP-BART-HS)을 개발한다. 우리는 이 모델을 구조적 공간 계량경제학, 비모수 머신러닝 기법, 소지역 추정량을 포괄하는 종합적인 방법군과 함께, 불규칙한 공간 토폴로지, 밀집된 정책 효과, 비선형 개인 수준 상호작용을 포함하여 각각 200회 반복을 갖는 9가지 데이터 생성 시나리오에 걸쳐 공동으로 평가한다. DSP-BART-HS는 모든 시나리오에서 최고 성능을 보이거나 최고 추정량과 통계적으로 구분되지 않는 성능을 보인다. 전통적인 지역-시간 집계 비교 모델들은 개인 수준의 비선형성이 결과 분산을 좌우할 때마다 3배 이상 뒤처지는 심각한 성능 저하를 겪는데, 이는 본 프레임워크의 트리 앙상블(tree-ensemble) 설계가 직접적으로 해결하는 한계점이다. 이 모델은 또한 공간 확산(spatial diffusion) 메커니즘을 통해 학습 지역이 전혀 없는(zero-training-region) 공간 홀드아웃 상황에서도 강력한 예측 정확도를 유지한다. 우리는 세대 간 경제적 이동성과 지리적 소득 불평등이라는 미국 카운티 수준의 두 가지 패널 응용 분야에서, 실제 미관측 지역(unseen-region), 무작위, 시간적 홀드아웃 하에 실용적 유용성을 입증하며, 그 결과는 반복 분할 불확실성 정량화와 모든 비교 모델에 대한 쌍별 유의성 검정을 통해 검증된다. 한 가지 명확한 한계가 발견되는데, 특히 시간적 외삽(temporal extrapolation) 상황에서는 더 경량화된 지역별 자기회귀 모형(MTS-CAR-X)이 강건하고 일관된 우위를 보인다는 것이다. 그럼에도 DSP-BART-HS는 계층적 시공간 패널 데이터에 대해 강력한 예측 성능, 자동화된 변수 선택, 그리고 유연한 추론을 제공한다.

arXiv:2609.38659v2stat.ML

다중 최적 암을 갖는 밴딧: 미니맥스 리그릿과 비적응성

Bandits with Multiple Optimal Arms: Minimax Regret and Non-Adaptivity

많은 실제 의사결정 문제가 여러 정답을 가질 수 있다는 점에서 착안하여, 본 논문에서는 다수의 최적 암(optimal arm)을 갖는 다중 암 밴딧(multi-armed bandit, MAB)을 연구한다. $A$개의 최적 암을 갖는 $K$-암 밴딧에 대해, 먼저 기존 서브샘플링 알고리즘(De Heide et al., 2021; Zhu and Nowak, 2020)에 대한 더욱 정밀한 분석을 제공하여 $\tilde{O}\Big(\frac{K-A}{\sqrt{KA}}\sqrt{T} \Big)$의 미니맥스 리그릿(minimax regret)을 확립함으로써 기존의 $\tilde{O}(\sqrt{KT/A})$ 리그릿을 개선한다. 여기서 $T$는 총 상호작용 횟수이며 $\tilde O(\cdot)$는 모든 상수 및 로그 인수를 생략한 표기이다. 이어 로그 인수 범위 내에서 일치하는 하한(lower bound)을 제시하여, 본 연구에서 도출한 속도가 미니맥스 최적에 거의 부합함을 보인다. 나아가 특정 최적 암 개수에 대해 준최적(near-optimal)인 알고리즘은 더 적은 수의 최적 암에 대한 최적 리그릿보다 실질적으로 훨씬 더 큰 리그릿을 발생시키므로, 준최적 리그릿을 달성하기 위해서는 $\tilde{O}(1)$ 인수 내에서 $A$에 대한 사전 지식이 필수적임을 보인다. 종합적으로, 본 연구 결과는 $1 \leq A \leq K-1$ 전체 범위에 걸쳐 $A$를 갖는 $K$-암 밴딧에 대한 포괄적인 미니맥스 특성 규명을 제공한다.

arXiv:2609.31019v2stat.CO

로버스트 군집별 회귀에서 트리밍 후 그룹 복원과 레벨-프리 플래깅

Group recovery after trimming, and level-free flagging, in robust clusterwise regression

로버스트 군집별 회귀(clusterwise regression)를 위한 트리밍(trimming) 방법은 데이터 중 고정된 비율을 버린다. 레벨이 너무 낮으면 피팅(fit)이 깨지고, 레벨이 너무 넉넉하면 작은 그룹이 트리밍되어 사라질 수 있다. 우리는 먼저 임의의 트리밍 또는 플래깅(flagging) 방법 뒤에 이어질 수 있는 그룹 복원(group-recovery) 단계를 제안한다: 이 단계는 버려진 데이터 포인트들 중에서 직선을 탐색하고, 그 직선 근처의 점들이 띠(band) 형태가 아니라 피크(peak) 형태를 이루는지를 검정하며, 가우시안(Gaussian) 그룹과 균등(uniform) 잡음의 가능도가 베이지안 정보 기준(BIC)과 유사한 마진만큼 개선될 때 해당 직선을 하나의 그룹으로 복원한다. 시뮬레이션에서 이 방법은 그룹 크기가 서로 다른 경우 넉넉한 TCLUST-REG 레벨의 실패를 복구했지만, 그룹이 세 개 또는 네 개인 경우에는 그렇지 못했다. 두 번째 제안인 ESF(exact-subsample flagging, 정확 부분표본 플래깅)는 트리밍 레벨이 없는 플래깅 절차로서, 작은 부분표본(subsample)에 대해 군집별 최소제곱(least-squares) 문제를 정확히 풀고, 최적 피팅에서 멀리 떨어진 데이터 포인트를 플래그(flag)로 표시한 뒤, 이후의 부분표본은 나머지 데이터에서 뽑는다. 레벨 대신 두 개의 상수가 사용되는데, 하나는 가장 작은 그룹 비율의 하한으로부터 설정되는 부분표본 크기이고, 다른 하나는 플래그된 집합의 상한(cap)이다. 이는 오염(contamination) 정도에 대해 아무것도 알려지지 않은 데이터를 위한 방법이다: 고정 레벨 0.30의 TCLUST-REG에 재가중(reweighting)과 복원 단계를 적용한 경우, 이상치(outlier)가 전체의 5분의 1까지인 범위에서는 평균적으로 ESF와 정확도가 비슷했고, 그 이상에서는 더 높은 레벨이 더 정확했다. 플래그된 비율은 오차(error)가 가우시안 분포에 가까울 때만 오염 정도를 추정한다. 요금제가 알려진 택시 요금(taxi fares) 데이터에서는 ESF가 모든 샘플에서 두 요금제 모두를 찾아냈다.

arXiv:2603.25911v2stat.ME

케이스 단위 및 셀 단위에 로버스트한 텐서-대-텐서 회귀

Casewise and Cellwise Robust Tensor-on-Tensor Regression

텐서-대-텐서 회귀(tensor-on-tensor regression)는 텐서 데이터 분석을 위한 중요한 도구로, 대응하는 예측 텐서 집합으로부터 응답 텐서 집합을 예측하는 것을 목표로 한다. 그러나 표준 텐서-대-텐서 회귀는 이상치(outlier)에 민감하며, 이러한 이상치는 응답과 예측 변수 양쪽 모두에 존재할 수 있다. 이는 데이터 전체에서 벗어난 관측값인 케이스 단위 이상치(casewise outlier)뿐만 아니라, 텐서 내의 개별적인 비정상 셀인 셀 단위 이상치(cellwise outlier)에 의해서도 영향을 받을 수 있다. 후자는 텐서 데이터에서 일반적으로 셀의 수가 매우 많기 때문에 특히 흔하게 발생한다. 본 논문은 두 가지 유형의 이상치를 동시에 처리할 수 있고 결측값(missing value)도 다룰 수 있는 새로운 로버스트 텐서-대-텐서 회귀 방법인 ROTOT를 소개한다. 이 방법은 단일 손실(loss) 함수를 사용하여 응답에서 케이스 단위 및 셀 단위 이상치의 영향을 모두 줄인다. 예측 변수의 이상치는 로버스트 다중선형 주성분분석(Multilinear Principal Component Analysis) 방법을 사용하여 처리된다. 또한 탐지된 다양한 유형의 이상치를 시각화하기 위한 그래픽 진단 도구도 제안한다. ROTOT의 성능은 광범위한 시뮬레이션을 통해 평가되며, Labeled Faces in the Wild 데이터셋(dataset)에 ROTOT를 적용하여 얼굴 속성을 예측하는 사례를 통해 추가로 설명된다.

arXiv:2603.24333v2math.ST

연속 변수에 대한 Forré의 조건부 독립성 개념 및 인과 미적분학에 관한 소고

Notes on Forré's Notion of Conditional Independence and Causal Calculus for Continuous Variables

최근 Forré(arXiv:2104.11547, 2021)는 확률 변수와 비확률적 변수 모두를 위한 통합된 프레임워크를 제공하는 조건부 독립성(conditional independence) 개념인 전이적 조건부 독립성(transitional conditional independence)을 도입했다. 원 논문에서는 일반적인 측도론적(measure-theoretic) 설정에서 입력 노드를 가진 유향 혼합 그래프(iDMG)에 대한 인과 미적분학(causal calculus) 버전과 함께, 전이적 조건부 독립성과 iDMG에 적합한 그래피컬 분리 기준을 연결하는 강력한 대역적 마르코프 성질(global Markov property)을 규명한다. 본 노트에서는 이 프레임워크의 배경 동기와 기존 문헌과의 연관성을 더욱 명확히 설명하고, 일반 측도론적 인과 미적분학의 특정 미묘한 측면들을 조명하며, Richardson 등(Ann. Statist. 51(1):334--361, 2023)의 ID 알고리즘의 "한 줄" 공식화를 일반 측도론적 설정으로 확장하는 것을 목표로 한다.

arXiv:2512.03322v5stat.CO

SSLfmm: 혼합 결측을 고려한 준지도 학습을 위한 R 패키지

SSLfmm: An R Package for Semi-Supervised Learning with Mixed Missingness

부분 레이블 표본은 데이터의 특징(feature)은 관측되지만 클래스 레이블은 일부 하위 집합에 대해서만 제공될 때 발생합니다. 이러한 환경에서는 레이블의 가용성을 결정하는 메커니즘 자체가 분류(classification)와 관련된 정보를 포함할 수 있지만, 표준 준지도 학습(semi-supervised learning) 절차에서는 일반적으로 이를 모델링하지 않은 채로 둡니다. SSLfmm 패키지는 레이블 결측 과정을 클래스 분포와 함께 결합 모델링하는 가능도(likelihood) 기반 가우시안 유한 혼합 분류를 구현합니다. 이 패키지는 완전 관측 사례(complete-case), 완전 무작위 결측(MCAR), 엔트로피 기반 무작위 결측(MAR), 그리고 MCAR과 MAR 메커니즘이 모두 기여할 수 있는 혼합 분석을 지원합니다. 혼합 메커니즘의 경우 결측 레이블의 출처가 알려져 있거나 알려지지 않았을 수 있습니다. 모델(model) 적합, 예측, 성능 평가 및 시뮬레이션을 위한 공통 R 인터페이스가 제공됩니다. 통계적 정식화와 소프트웨어 구현을 설명하고, 재현 가능한 시뮬레이션 및 준합성 수혈(Blood Transfusion) 데이터 응용을 통해 활용법을 입증합니다.

arXiv:2610.01088v1stat.ME

가우시안 혼합에 대한 무작위 가중치 재조정 NPMLE의 다항로그 희소성

Polylogarithmic Sparsity of Randomly Reweighted NPMLEs for Gaussian Mixtures

가우시안 위치 혼합의 비모수 최대가능도 추정량(NPMLE)은 혼합 분포의 무한 차원 공간에서 가능도를 최대화합니다. 최대화하는 혼합 분포는 유일하지 않을 수 있으며, 그 원자(atom)의 수에 대한 고전적 상한은 표본 크기 $n$에 따라 선형적으로 증가합니다. 본 논문에서는 가능도에 사라질 정도로 작은 무작위 섭동(perturbation)을 가하면 정확한 다항로그 희소성(polylogarithmic sparsity)을 얻을 수 있음을 보입니다. 그 결과 생성되는 무작위 가중치 재조정 NPMLE는 $n$이 증가함에 따라 1 부근으로 집중되는 독립적인 가중치(본 분석에서는 감마 분포로 가정)를 갖는 가중 가능도를 최대화합니다. 이 추정량은 높은 확률로 유일하며, $d$차원에서 $O\{(\log n/\log\log n)^d+\log n\}$개의 원자를 갖고, 통상적인 가능도를 거의 최대화하며, 로그 인자를 제외하고는 모수적 속도에 해당하는 헬링거(Hellinger) 수렴 속도로 혼합 밀도를 추정합니다. 이러한 희소성은 근사치가 아닌 추정량 자체에 대해 성립하며, 지지집합(support) 페널티를 필요로 하지 않습니다. 증명은 양의 커널 혼합에 대한 유효 차원 원리, 즉 적합값(fitted values)의 저차원 변동이 최대화점 집합의 모든 극점의 지지집합을 제어한다는 점에 기반합니다. 수치 실험을 통해 가중치 재조정 NPMLE가 통상적인 NPMLE와 비교할 만한 수준의 헬링거 위험 및 지지집합 크기를 가짐을 검증합니다.

arXiv:2605.20468v3cs.LG

CASCADE 적합 예측: 2단계 임상 의사결정 지원을 위한 불확실성 적응형 예측 구간

CASCADE Conformal Prediction: Uncertainty-Adaptive Prediction Intervals for Two-Stage Clinical Decision Support

파킨슨병(PD)에서의 효과적인 약물 관리는 이질적인 질병 진행, 가변적인 환자 반응, 그리고 약물 부작용으로 인해 매우 까다롭습니다. AI 모델이 약물 필요량의 지표로서 레보도파 등가 1일 용량(LEDD)을 예측할 수 있지만, 표준적인 불확실성 정량화(uncertainty quantification)는 높은 신뢰도와 낮은 신뢰도의 임상 의사결정을 동일하게 취급하여 이러한 예측의 신뢰성을 전달하지 못하는 경우가 많습니다. 본 논문에서는 선별 분류(classification)기로부터의 인식적 불확실성(epistemic uncertainty)을 전파하여 다운스트림 예측을 적응시키는 새로운 적합 예측(conformal prediction) 프레임워크인 CASCADE(Calibrated Adaptive Scaling via Conformal And Distributional Estimation)를 소개합니다. 보조 잔차 회귀에 의존하는 표준 적합 방법과 달리, 1차 분류 과제(약물 변경 필요 여부 식별)의 인식적 불확실성을 활용하여 2차 회귀 과제(변경량 예측)의 예측 구간을 동적으로 조정합니다. 벤-아버스(Venn-Abers) 다중 확률적 불확실성을 비적합 점수(non-conformity score)에 직접 매핑함으로써, 제안하는 프레임워크는 지속적인 위험 적응을 달성합니다. 우리는 이러한 캐스케이드 효과가 신뢰도가 높은 환자에 대해 매우 효율적인 구간(표준 적합 베이스라인보다 38.9% 더 좁음)을 생성하는 동시에, 불확실한 사례에 대해서는 견고한 커버리지를 보장하도록 구간을 자동으로 확장하여 파킨슨병에서 이산적인 임상 의사결정과 연속적인 용량 예측 간의 격차를 해소함을 입증합니다.