PyTorchKR Papers

최신 논문

총 824편
태그·기간 등 상세 필터

카테고리 탐색

arXiv:2611.02254v1stat.ME

구조적 인과 모델 하에서의 분류를 위한 부분 불변성

Partial Invariance for Classification under Structural Causal Models

여러 학습 환경에서 수집한 데이터로 보지 못한 환경에서 예측하는 일은 어렵다. 이러한 어려움은 타깃 생성 메커니즘이 환경마다 다를 때 특히 두드러진다. 본 연구에서는 타깃 조건부 분포를 환경 불변 성분과 레이블 불변 성분으로 분해하는 부분적 환경 불변성의 한 형태인 환경-레이블 분리(environment-label separation)를 도입한다. 우리는 이러한 부분 불변성이 레이블이 있는 학습 데이터와 레이블이 없는 테스트 특징을 함께 사용할 때 보지 못한 환경에서의 타깃 조건부 분포 추정을 가능하게 함을 보인다. 구조적 인과 모델 프레임워크 내에서 환경-레이블 분리를 위한 충분 조건을 제시한다. 이러한 조건을 바탕으로, 테스트 위험의 추정치를 최소화하면서 환경 간 불변성을 장려하는 알고리즘 dIMP-Classifier를 개발한다. 또한 불변성으로부터의 편차, 추정 오차, 표본 복잡도 측면에서 테스트 위험을 규명하는 유한 표본 보장을 제공한다. 시뮬레이션 데이터와 실제 광 터널 Causal Chamber 데이터에 대한 실험은 제안한 접근법이 타깃 메커니즘에 대한 개입 하에서도 작동할 수 있으며, 고려한 표준 기준선 및 불변성 기반 기준선을 일관되게 능가함을 보여 준다.

arXiv:2611.02122v1stat.ME

크릴로프 근사를 통한 최적 스펙트럼 수축

Optimal spectral shrinkage via Krylov approximation

스펙트럼 수축(spectral shrinkage)은 표본 공분산 행렬에 스펙트럼 필터를 적용하여 추정과 예측을 정則화하는, 고차원 선형 회귀를 위한 광범위한 추정량 계열이다. 널리 사용됨에도 불구하고, 일반적인 공분산 구조에서 오라클 최적 예측 위험을 달성하는 것은 여전히 어렵다. 오라클 필터는 알려져 있지 않은 모집단 양을 필요로 하며, 등방 모형이나 스파이크 모형과 같은 특정 공분산 모형에서만 닫힌 형태를 갖기 때문이다. 본 논문은 미지의 공분산 구조에 적응하며 점근적으로 오라클 위험을 달성하는 데이터 기반 스펙트럼 추정량인 \textit{위험 목표 크릴로프 적합}(risk-targeted Krylov fitting, RTK)을 제안한다. 부분 최소제곱법과 마찬가지로 RTK는 $m$차원 크릴로프 공간에서 동작하지만, 모형을 $n$번 다시 적합하지 않고도 정확히 계산할 수 있는 leave-one-out 위험을 최소화함으로써 오라클 위험을 직접 목표로 한다. 일반적인 분포와 공분산 구조 하에서 RTK는 크릴로프 공간에서 $O(1/n)$ 이내의 오차로 최적 예측 위험을 달성한다. 더욱이 $m$이 $\log n$ 차수일 때 그 위험은 최적 해석적 필터의 위험에 근접한다. 다양한 공분산 구조에 대한 시뮬레이션에서 RTK와 그 절단(truncated) 변형은 $m$의 선택에 강건하였으며, 일관되게 오라클에 가장 가까운 스펙트럼 추정량에 속하였다. 단일 세포 시퀀싱 데이터와 대규모 신경 기록에 대한 응용에서, 제안한 방법은 대부분의 과제에서 경쟁 추정량보다 높은 예측 정확도를 달성하였다.

arXiv:2611.01566v1stat.ML

에이전트 워크플로에서의 원칙에 입각한 인간-AI 협업

Principled Human-AI Collaboration in Agentic Workflows

AI를 도입하는 조직은 인간 전문가의 품질 기준을 충족하면서 어떤 출력을 인간 검토 없이 공개할 수 있는지 결정해야 하는 과제에 직면한다. 우리는 AI가 생성한 답변이 여러 차례에 걸쳐 검증되고 수정되는 블랙박스 생성-검증 워크플로와 전문가 사이에서 과제를 위임하기 위한 통계적 프레임워크를 개발한다. 배포 전에 인간 전문가가 선별된 출력을 평가하고, 그 판단을 이용해 검증기 임계값과 시도 횟수를 보정한다. 제안 방법은 생성기나 검증기를 수정하지 않고, 통계적으로 승인된 후보 중에서 추정 자동화율이 가장 높은 정책을 선택한다. 우리는 공개된 출력의 오류율에 대한 유한 표본 제어를 확립하고, 목표 자동화율을 달성하기에 충분한 전문가 평가를 규명하며, 품질 마진과 요구 신뢰도에 대한 비율 최적성을 보이는 미니맥스 하한을 도출한다. MultiHiertt 금융 질의응답 사례 연구에서, 전문가 평가가 누적됨에 따라 보류(held-out) 평균 자동화율은 2.50%에서 24.17%로 증가하는 반면 공개된 출력의 오류율은 약 1.20%를 유지한다. 반면, 일관되게 높은 검증기 점수 이후 답변을 공개하는 휴리스틱은 5% 오류 허용치를 위반하거나 과제의 최대 1.30%만 자동화한다. 합성 실험은 통제된 환경에서 이러한 이론적 예측을 추가로 검토한다.

arXiv:2611.01436v1stat.ME

조건부 샘플링을 위한 수송: 기초와 응용

Transport for Conditional Sampling: Foundations and Applications

조건부 샘플링은 베이지안 추론, 생성 모델링, 인과 추론의 핵심이다. 확률변수 $X$와 $Y$의 결합 법칙과 관측 $Y=y$가 주어졌을 때, 조건부 법칙 $X\mid Y=y$에서 샘플링하는 것을 목표로 한다. 결합 분포가 정확히 표현되더라도, 계산이 불가능한 정규화 상수를 평가하거나 관측마다 새로운 추론 문제를 풀어야 할 수 있어 이 과제는 계산적으로 어려울 수 있다. 측도 수송은 임의의 관측에 대해 참조 분포를 결합 분포의 조건부 분포로 직접 밀어내는 삼각 구조의 사상을 찾아냄으로써 이 문제에 대한 접근법을 제공한다. 본 글은 Knothe-Rosenblatt 재배열을 대표적 구성으로 하여 삼각 수송의 이론적, 방법론적, 알고리즘적 기초를 검토한다. 우리는 유한 표본으로부터 삼각 사상을 추정하는 방법과 시뮬레이션 기반 추론 및 인과 추론에서의 활용을 논의한다. 주된 목적은 기존 정식화를 검토하는 것이지만, 수송을 이용한 조건부 샘플링에 대한 새로운 아이디어와 미해결 문제도 제시한다.

arXiv:2611.01312v1stat.ME

정확도는 위험이 아니다: 의료 AI가 가장 가능성 높은 레이블만 보고해서는 안 되는 이유

Accuracy Is Not Risk: Why Medical AI Should Not Report Only Its Most Likely Label

배경. 많은 의료 AI 모델은 단일 기준 레이블을 재현하도록 학습되며, 가장 가능성 높은 레이블을 임상 워크플로의 다음 단계로 넘긴다. 분류기는 그 레이블을 올바르게 선택하더라도, 후속 위험을 추정하기에는 부적절한 요약을 제공할 수 있다. 방법. 우리는 Jeffrey의 조건화 규칙을 사용하여, 진단이나 영상 범주와 같은 중간 상태에 대한 확률을 결과 위험으로 전달할 수 있는 조건을 규정한다. 가장 가능성 높은 레이블만 보고할 때 발생하는 두 가지 오류, 즉 다른 상태의 확률을 버리는 오류와 선두 진단을 가진 환자들의 위험을 그 진단을 단지 가능성 있게만 가진 환자에게 적용하는 오류를 구분한다. 또한 레이블과 전체 분포가 동일한 결정으로 이어지는 조건을 제시하고, 기기 개발자, 규제 심사자, 건강보험사를 위한 안전장치를 제안한다. 결과. 가상의 흉통 감별 사례에서 양성인 선두 진단만 보고하면 환자의 사망 또는 심정지 위험이 크게 과소평가되어, 평가가 필요한 환자가 퇴원하거나 영상 검사를 거부당할 수 있다. 가상의 BI-RADS 사례에서는 가장 가능성 높은 범주가 '아마도 양성'이지만, 전파된 악성 위험은 그 범주를 정의하는 상한을 초과한다. 결론. 예측된 레이블은 관측된 상태가 아니며, 보정된 분류기가 자동으로 유효한 결과 모델이 되는 것은 아니다. 임상 및 보험 보장 결정은 환자의 결과 위험에 근거해야 하며, 조치를 취하거나 취하지 않았을 때의 결과로 정당화되는 임계값에 비추어 판단되어야 한다. 개발자는 각 모델 출력이 의미하는 바를 명시하고, 모델과 결정 사이의 모든 단계가 환자의 위험을 보존하는지 확인해야 한다.

arXiv:2611.01134v1stat.ME

무작위 시험에서 분산이 알려진 이분산 하의 가지치기된 상호작용 트리에 대한 선택적 추론

Selective inference for pruned interaction trees with known unequal variances in randomized trials

상호작용 트리는 처치 효과 이질성을 발견하기 위해 결과를 재사용하므로, 성장과 가지치기 이후의 추론이 복잡해진다. 우리는 공통 공변량 기저와 알려진 이분산을 갖는 일반화 최소제곱(GLS) 상호작용 트리에 대한 선택적 추론을 개발한다. 양의 대각 공분산을 갖는 조건부 가우시안 모형 하에서, 가중 직교성은 가산적 고정 페널티 가지치기 아래의 생존 조건을 성장 사건을 보완하는 하나의 이차 부등식으로 축소한다. 이로써 정확한 유한 표본 조건부 검정과 신뢰구간이 얻어지며, 유지 경로 추론과 완전 트리 추론은 호환되는 구간에서 일치한다. 인과 식별과 올바른 기준 예후 하에서, 가지치기 불변 GLS 목표는 조건부 평균 처치 효과의 부호 있는 유한 설계 가중 대비이다. $n=100,200,400,800$과 최대 깊이 1에서 3까지의 시뮬레이션은 모든 인접 관측값 중점을 탐색하며, 보정을 뒷받침하고 가지치기 생존을 생략하면 과도한 기각이 발생함을 보여준다. 50:50 정직(honest) 절차와 비교하면, 전체 데이터 학습은 일부 소표본 설정에서 기준 분할 복원을 개선한다. 루트 수준의 중앙값 구간은 더 짧을 수 있는 반면 깊은 노드의 구간과 상단 꼬리는 훨씬 넓을 수 있으며, 이러한 비교는 각 절차가 선택한 목표에 관한 것이다. 분산비를 고정한 채 공통 척도를 추정하면 검토한 설정에서 선택적 커버리지가 소폭 변하지만, 정확한 보장이 확장되지는 않는다. 탐색적 ACTG 175 분석은 추정된 군별 분산을 사용한 작업 모형의 예시를 제공한다.

arXiv:2611.00979v1math.ST

공정성 인지 문맥적 밴딧에서의 최적 학습

Optimal Learning in Fairness-Aware Contextual Bandits

순차적 의사결정에서 부당한 격차를 완화하는 것은 기계학습에서 점점 더 중요해지는 문제이다. 우리는 \cite{dwork2012fairness}가 개척한, 유사한 문맥을 가진 개인이 유사한 행동 분포를 받도록 요구하는 전역 공변량 기반 립시츠 공정성 제약 아래의 문맥적 밴딧을 연구한다. 이 제약이 결정 경계 부근에 무작위화 영역을 유도함을 보이고 공정성의 모집단 수준 비용을 명시적으로 정량화한다. 또한 최적 공정 정책의 정준 표현을 정립하여 공정 정책 설계를 더 낮은 차원의 경계 최적화 문제로 환원한다. 연속 문맥에서 공정성이 유도하는 공변량 다양성을 활용하는 지연 공정 탐욕(lazy fair greedy) 알고리즘을 개발하며, 정책 갱신은 유한 차원 선형계획법으로 계산한다. 이산 및 혼합 문맥을 포함한 일반적인 문맥 분포에 대해서는 지연 다면체 상한 신뢰 한계(UCB) 알고리즘을 제안하는데, 그 낙관적 최적화는 신뢰 집합 꼭짓점에 대한 유한 개의 선형계획으로 환원된다. 두 방법 모두 매 라운드 공정성을 만족하며, 다항 로그 인자를 제외하고 $O(\sqrt{T} + T^{(d-2)/(d-1)}{\indc\{d\geq 4\}})$ 차수의 후회를 달성한다. 여기서 $d$는 문맥의 차원이다. $\ell_1$ 기반 공정성에 대한 일치하는 미니맥스 하한은 최적성을 입증하며, 결정 경계를 학습하는 데 따르는 불가피한 비모수적 비용이 $d \geq 4$일 때 모수적 학습 비용을 지배함을 보여 준다. 합성 및 실제 데이터에 대한 실험은 이론적 결과를 뒷받침하고 제안 방법의 실용적 효과를 입증한다.

arXiv:2611.00719v1stat.ML

오늘의 가격 책정, 내일을 형성하다: 구매 주도형 진화 시스템에서의 맥락적 동적 가격 책정

Pricing Today, Shaping Tomorrow: Contextual Dynamic Pricing in Purchase-Driven Evolving Systems

다양한 시장에서 기업은 고객 유치와 작업량 및 배송 시간 같은 운영 조건 관리 사이에서 균형을 맞추는 것이 중요하다. 오늘 발생한 주문이 미래 고객이 마주할 조건을 바꿀 수 있으므로 동적 가격 책정은 이러한 상충 관계에서 핵심적인 역할을 한다. 우리는 관측되는 공유 상태와 알려지지 않은 구매 주도형 전이를 갖는 맥락적 동적 가격 책정을 위한 새로운 프레임워크를 개발한다. 가치 평가 모델은 고객 공변량과 상태에 대한 알려지지 않은 평균 함수, 상태별 알려지지 않은 척도, 그리고 공통의 알려지지 않은 표준화 잡음 분포를 허용한다. 우리는 구매가 미래 수익에 미치는 결과를 현재 가격 책정에 반영하는 SHAPE(Shadow-Adjusted Pricing in Evolving Systems)를 제안한다. 구매 그림자 조정과 척도 표준화는 상태 전반에 걸쳐 공통된 1차원 오라클 가격 맵을 드러내며, 이를 통해 SHAPE는 조잡한 탐색을 반복하지 않고 가치 갱신 전반에 걸쳐 가격 책정 이력을 유지할 수 있다. 동일한 활성 판매 기록이 가격 맵 학습과 지속 가치 및 구매 그림자의 공동 갱신을 뒷받침하며, 잡음 분포나 전체 전이 행렬을 적합할 필요가 없다. 구매 주도형 피드백 하에서 이러한 재사용을 뒷받침하기 위해, 우리는 이력 의존 입력에 대한 가격 책정 보장과 공동 갱신에 대한 안정성 한계를 확립한다. 정칙성, 커버리지, 설계 조건 하에서 선형, 횔더(Hölder), 희소 선형 평균 모델에 대해 유한 지평 동적 오라클 대비 준선형 기대 후회를 얻는다. 고정된 상태 및 특성 차원에서의 아핀 가치 평가의 경우, SHAPE는 모든 고정된 잡음 꼬리 평활도 차수 $\beta\ge2$에 대해 로그 인자를 제외하고 정적 준모수 미니맥스 시간 지수와 일치한다. 수치 실험은 SHAPE의 우수한 성능을 추가로 보여 준다.

arXiv:2611.00705v1stat.ME

사영된 도구변수를 이용한 평균 처치 효과 추정

Estimating Average Treatment Effects with Projected Instrumental Variables

본 논문에서는 도구변수를 이용한 인과 식별의 기존 가정을 완화하는 사영 도구변수 프레임워크를 개발한다. 조건부 기댓값을 힐베르트 공간에서의 직교 사영으로 해석하는 관점에 기반하여, 이 프레임워크는 조건부 기댓값 연산자를 일반적인 사영 연산자로 대체한다. 우리는 리스 표현 정리에 기반한 대안적인 역문제 정식화를 제시한다. 준모수적 효율성 이론을 바탕으로, 추정과 추론을 위한 편의 제거 및 적응형 기계학습 방법도 추가로 개발한다. 제안된 프레임워크는 유효하지 않은 도구변수를 도구화된 이중차분법과 연결한다. 또한 유효하지 않은 사영 도구변수를 검토하고 기존 방법과의 관계를 논의한다. 모의실험과 실제 데이터 분석을 통해 제안된 방법이 기존 접근법에 비해 우수한 성능을 보임을 입증한다.

arXiv:2611.00480v1stat.ME

표준화된 마진 보정을 통한 검정력 최적 위험 제어

Power-Optimal Risk Control via Standardized Margin Calibration

기계학습은 실험적으로 검증할 수 있는 것보다 훨씬 많은 후보를 선별할 수 있으므로, 비용이 큰 실험 검증 이전에 위험을 제어하면서 유망한 후보를 식별하는 선택 절차가 필요하다. 본 연구는 불확실성으로 정규화한 예측 마진으로 후보의 순위를 매기고 보류된 손실을 사용해 선택 기준값을 직접 보정하는, p-값이 필요 없는 프레임워크인 불확실성 정규화 경험적 보정(Uncertainty-Normalized Empirical Calibration, UNEC)을 제안한다. UNEC는 유연한 예측 모델, 일반적인 유계 손실, 다양한 선택 목표를 지원한다. 주변 발견 위험(marginal discovery risk, MDR)과 선택적 발견 위험(selective discovery risk, SDR)을 연구하며, SDR은 이진 손실에서 거짓 발견율로 환원된다. 조정된 규칙에 대한 유한 표본 MDR 제어와 명시적인 극한 위험 및 검정력을 갖는 점근적 SDR 제어를 증명한다. 공통의 단측 이진 목표를 갖는 위치-척도 모형에서, UNEC가 관측별 선택 규칙 중 오라클 검정력 기준을 점근적으로 달성함을 추가로 보인다. 용해도, 독성, 친유성에 대한 시뮬레이션과 분자 스크리닝 응용은 이진 및 단계적 손실 설정 전반에서 우수한 위험-검정력 절충과 상당한 계산 이득을 보여준다.

arXiv:2611.00266v1stat.ML

아웃스트루멘탈 변수 회귀

Outstrumental Variable Regression

관측되지 않은 교란이 존재하는 관측 데이터로부터 처치 $X$가 결과 $Y$에 미치는 인과 효과를 추정하려면 추가적인 구조나 가정이 필요하다. 도구 변수 회귀와 같은 기존 식별 전략은 처치에서의 외생적 변동만을 활용한다. 우리는 처치 분포가 변하지 않더라도 결과 메커니즘이 유한한 환경 집합에 따라 달라진다면 인과 효과를 식별할 수 있음을 보인다. 구체적으로 우리는 세 단계로 진행되는 아웃스트루멘탈 변수 회귀(OVR)를 도입한다. (i) 각 환경에서 $X$가 주어졌을 때 $Y$의 조건부 기댓값을 계산한다. (ii) 모든 환경과 기준 환경 사이의 이러한 조건부 기댓값의 차이로 이루어진 벡터(이를 대비 벡터라 부른다)를 구성한다. (iii) 대비와 환경을 조정하면서 $Y$를 $X$에 회귀한다. 우리는 다음 두 조건이 성립하면 이 방법이 참인 인과 효과를 산출함을 증명한다. 포함 제약, 즉 대비가 조건부 교란 편향을 결정한다는 조건과, 양성성, 즉 조정 후 처치가 충분히 강하게 변동한다는 조건이다. 또한 정칙성 조건 하에서 OVR의 유한 표본 버전이 일치성을 가짐을 증명하고, 합성 데이터와 실제 데이터에서 이 절차의 효과를 입증한다.

arXiv:2610.39194v2stat.ML

영보완 외삽: 계수 부족 영역의 극심한 불균형 로지스틱 회귀에서 매개변수 복원과 분류

Zero-Complement Extrapolation: Parameter Recovery and Classification in Severely Imbalanced Logistic Regression under Rank-Deficient Regimes

이진 로지스틱 회귀에서 소수 클래스 관측치 수($n_1$)가 특징 차원($p$)보다 작으면 매개변수 추정과 분류 성능이 심각하게 저하된다. 이러한 계수 부족 희소성($n_1 < p$) 하에서는 최대우도 추정량이 준완전 분리 문제를 겪고, 벌점 우도 방법은 심각한 절편 편향을 보이며, SMOTE와 같은 볼록 소수 클래스 오버샘플링 기법은 $(n_1 - 1)$차원 아핀 부분공간으로 붕괴한다. 본 논문에서는 소수 클래스 보간에서 다수 클래스 주변부 외삽으로 패러다임을 전환하는 새로운 \textit{자기 보정 영보완(Self-Calibrated Zero-Complement)} 추정량을 제안한다. Stein의 보조정리에 기반하여, 로지스틱 절단으로 유발되는 풍부한 다수 클래스($Y=0$)의 조건부 기댓값 이동이 Mahalanobis 백색화 이후 참 초평면의 법선 $\boldsymbol{\beta}$를 유일하게 식별함을 증명한다. 또한 다수 클래스 분포의 고분위 밀도 주변부로부터 켤레 방향을 따라 합성 소수 클래스 사례를 바깥쪽으로 외삽하면 공분산의 전계수 정칙성($\mathrm{rank} = p$)이 보존됨을 보인다. 비라벨 배경 평균이 있는 준지도 환경과 엄격한 지도 부표본을 모두 수용하기 위해, 다수 클래스의 고유한 3차 모멘트 왜도와 위치 이동에 불변인 영경계 절편 보정을 결합한 하이브리드 추정량을 도입한다. 극단적 희소성($n_1 \in \{3, 5\}$) 하에서 수행한 광범위한 몬테카를로 시뮬레이션과 실제 벤치마크 적용(Wisconsin Diagnostic Breast Cancer 및 Banknote Authentication) 결과, 제안한 접근법은 매개변수 발산을 방지하고 오라클 초평면을 높은 충실도로 복원하며, F1 점수와 추정 안정성에서 Firth 회귀와 SMOTE를 크게 능가함을 보인다.

arXiv:2610.23570v2stat.ML

반복 알고리즘을 위한 데이터 적응형 애니타임 유효 포락선의 일반적 방법론

A general recipe for data-adaptive anytime-valid envelopes for iterative algorithms

반복적 확률 알고리즘에 대한 대부분의 수렴 보장은 고정된 반복 횟수에서 기술되며, 데이터에 의존하는 시점에서의 중단을 정당화하지 못한다. 최근의 애니타임 유효(anytime-valid) 포락선은 이를 정당화하지만, 결정론적인 포락선은 실용적인 중단 기준으로 쓰기에는 대체로 지나치게 보수적이며, 기존의 데이터 적응형 포락선은 특정 알고리즘, 특정 잡음 모델, 특정 경계 구성에 국한되어 사례별로 유도된다. 본 논문은 다양한 반복 알고리즘에 대해 정밀한 데이터 적응형 애니타임 유효 포락선을 구하는 일반적 방법론을 제시한다. 우리의 접근법은 두 가지 핵심 단계로 이루어진다. 먼저 최적화 모듈이 이러한 여러 알고리즘의 성능 척도가 만족하는 한 단계 점화식을 유도하여, 오차 분석을 예측 가능하게 가중된 잡음 합에 대한 시간 균등 집중 부등식으로 환원한다. 이어서 통계 모듈이 sub-$\psi$ 조건을 예측 가능한 가중치에 대해 균등하게 성립하도록 벡터값 과정으로 확장하고, 혼합, 스티칭, 곱 베팅 마팅게일을 통해 바로 사용할 수 있는 경계를 유도한다. 두 모듈을 결합하면 확률적 경사 하강법(SGD), Oja 알고리즘, 시간차 학습, Q-러닝, Bures-Wasserstein SGD 등을 포함하되 이에 국한되지 않는 많은 반복 알고리즘에 대한 즉시 사용 가능한 포락선을 얻으며, 이 중 다수는 기존에 데이터 적응형 애니타임 유효 보장이 없었다. 특히 SGD의 경우, 우리의 프레임워크는 우리가 알고 있는 모든 기존 포락선을 종종 더 약한 조건에서 복원하거나 크게 정밀화한다. 우리의 구성은 명시적인 구현 세부 사항과 함께 제시되며 수치 실험으로 뒷받침된다.

arXiv:2610.22516v2stat.ML

SALE: 전략적 구매자를 고려한 출처 인식 동적 가격 책정

SALE: Source-Aware Dynamic Pricing with Strategic Buyers

현대 상거래에서 기업과 플랫폼은 일반적으로 서로 다른 출처의 고객 특성을 이용해 가격을 개인화한다. 일부 특성은 판매자 기록이나 제3자 데이터로 검증되는 반면, 다른 특성은 자기 보고된 것으로서 더 낮은 가격을 원하는 구매자가 전략적으로 조작할 수 있다. 본 논문에서는 구매자의 가치 평가가 고차원 특성의 희소 선형 함수에 분포를 알 수 없는 시장 잡음을 더한 형태인, 전략적 구매자가 있는 출처 인식 동적 가격 책정 문제를 연구한다. 우리는 과거 학습과 검증된 특성을 이용해 탐색을 개인화하고, 활용 단계에서는 검증된 특성과 보고된 특성을 이용해 전략적 조작을 보정하는 SALE(Source-Aware Localized exploration and calibrated Exploitation) 정책을 개발한다. 새롭게 제안한 개인화 설계는 탐색하는 가격의 범위를 좁혀, 지나치게 높거나 낮은 가격에서의 불필요한 탐색을 줄이는 것을 목표로 한다. 이 설계 하에서의 학습을 뒷받침하기 위해, 구매자 특성이 시간에 따라 종속적인 경우에도 희소 가치 평가 모수 추정과 이어서 알 수 없는 잡음 분포의 비모수 추정을 가능하게 하는 새로운 모집단 방정식을 유도한다. 내재된 희소 구조를 밝힘으로써, 우리의 분석은 동일한 탐색 데이터를 사용한 두 학습 과제 모두에 대한 추정 보장을 확립한다. 이러한 보장을 바탕으로 SALE이 준선형 기대 후회 한계를 달성함을 보이며, 검증된 특성을 이용해 탐색 구간을 좁히는 이점을 명시적으로 정량화한다. 여러 수치 연구는 SALE의 우수한 성능을 추가로 입증한다.

arXiv:2608.25304v3stat.ME

SAUSS: 제한 종속변수 모형을 위한 편향 없는 시뮬레이션 점수 기반 확률적 근사

SAUSS: Stochastic Approximation with Unbiased Simulated Scores for Limited Dependent Variable Models

모사 최대우도법(simulated maximum likelihood)은 우도 평가에 다루기 어려운 적분이나 확률이 필요한 잠재변수 모형에서 널리 사용된다. 모사 추출 횟수가 고정되어 있으면 그 추정방정식은 일반적으로 편향된다. 본 연구는 점수(score) 모사와 확률적 경사하강법을 결합한 SAUSS(Stochastic Approximation with Unbiased Simulated Scores)를 개발한다. Fisher 항등식의 한 사례인 Hajivassiliou--McFadden 항등식은 우도 점수를 관측 데이터가 주어졌을 때 완전 데이터 점수의 조건부 기댓값으로 표현한다. 정확한 조건부 추출은 어떤 고정된 추출 횟수에서도 불편(unbiased) 모사 점수를 제공한다. 이 추정량은 표본 크기와 무관하게 고정된 크기의 미니배치로 계산한 확률적 경사 반복값을 평균하므로, 전체 표본에 대한 우도 평가를 반복하지 않는다. 국소적 정칙성 및 초기화 조건 하에서, 관측 표본에 대한 다중 패스 샘플링에서 반복값의 부분합 과정에 대한 점근 정규성과 함수형 중심극한정리를 증명한다. 이러한 결과는 알고리즘의 불확실성이 표집 불확실성에 비해 무시할 수 없는 경우에도 점근적으로 타당한 플러그인 및 랜덤 스케일링 신뢰구간을 뒷받침한다. 본 연구는 다항 프로빗(multinomial probit)을 주요 응용으로 전개한다. 모의실험과 두 가지 응용에서 SAUSS는 보고된 모든 실행에서 추정값을 반환했으며, 여기에는 모사 최대우도법 구현이 추정값을 반환하지 못한 경우도 포함된다. 둘 다 추정값을 반환하는 경우, SAUSS는 더 짧은 시간에 비슷한 추정값을 제공한다.

arXiv:2605.21041v2stat.ML

거의 모든 것에 대한 가우시안 프로세스 조건화

Conditioning Gaussian Processes on Almost Anything

가우시안 프로세스(GP)는 함수에 대한 원리적인 확률 모델을 제공하지만, 정확한 추론은 선형-가우시안 영역으로 제한된다. 본 연구는 GP와 한 부류의 선형 확산 모델 사이의 명시적 동치성을 확립하여, 예측 샘플링을 닫힌 형태의 가우시안 동역학과 단순한 몬테카를로 근사가 가능한 우도 의존적 안내 항을 갖는 ODE로 재정식화한다. 선형-가우시안 설정에서는 표준 GP 조건화를 정확히 복원하며, 켤레성을 넘어서는 경우에도 동일한 체계가 비선형 물리를 포함해 점별 우도 평가가 가능한 모든 조건화 진술을 처리하고, 대규모 언어 모델을 통한 자연어까지 최초로 다룬다. 화이트닝은 환원 불가능한 비가우시안 동역학을 분리하여 Wasserstein-2 수송 비용을 최소화하고 수치적 강성을 제거한다. 그 결과 별도의 맞춤 유도가 필요 없는 범용 GP 추론 기법을 얻는다. 이러한 결과는 현실 세계 지식의 풍부함 전체를 조건화 정보로 통합하는 일반적 메커니즘을 제공하며, 현실 문제의 확률적 모델링을 위한 새로운 지평을 연다.

arXiv:2512.10156v2econ.EM

배치형 적응적 실험을 위한 추론

Inference for Batched Adaptive Experiments

적응적 실험의 이점으로 인해 경제학을 비롯한 여러 분야와 실무자들 사이에서 적응적 실험이 빠르게 도입되고 있다. 그러나 적응적 실험은 인과추론에 어려움을 야기한다. 본 노트는 적응적 실험에서 처치 효과를 추론하기 위한 BOLS(batched ordinary least squares, 배치형 보통최소제곱) 검정통계량을 제안한다. 이 통계량은 이분산 하에서 기간별 처치-통제 차이를 정밀도가 같아지도록 집계한다. 결합된 검정통계량은 이분산을 갖는 기간별 z-통계량의 선형결합이며, 점근적으로 타당한 신뢰구간을 구성하는 데 사용될 수 있다. 처치 기간이 적고 배치당 관측치가 적거나 많은 전형적인 경우에서 기각률을 비교한 시뮬레이션 결과를 제시한다.

arXiv:2510.16742v3cs.AI

복잡계를 위한 대리 모델링과 설명 가능한 인공지능: 자동화된 시뮬레이션 탐색을 위한 워크플로

Surrogate Modeling and Explainable Artificial Intelligence for Complex Systems: A Workflow for Automated Simulation Exploration

복잡계는 물리 기반 모델 및 경험적 모델을 최적화와 분석에 결합한 시뮬레이션 기반 워크플로를 통해 점차 많이 탐구되고 있다. 이러한 워크플로는 강력함에도 불구하고 두 가지 핵심 장애물에 직면한다. 하나는 비용이 큰 시뮬레이터를 반복 실행하는 데서 오는 높은 계산 비용이고, 다른 하나는 불투명한 블랙박스 모델에 의존하여 의사결정을 내릴 때 투명성이 제한된다는 점이다. 우리는 소규모 실험 계획법으로 경량 에뮬레이터를 학습시켜 이 두 가지 문제를 모두 해결하는 워크플로를 제안한다. 이 에뮬레이터는 (i) 비용이 큰 시뮬레이터에 대한 빠르고 지연 시간이 낮은 근사를 제공하고, (ii) 엄밀한 불확실성 정량화를 가능하게 하며, (iii) 전역 및 국소 설명 가능한 인공지능(XAI) 분석을 지원한다. 본 연구는 공학 설계에서 사회·환경 에이전트 기반 모델에 이르는 다양한 분야에서 연속형, 범주형, 정수형 변수를 수용하는 방법론적 가교를 정립한다. 대리 모델의 설명을 검증하고 그것이 시뮬레이터의 거동을 얼마나 충실히 반영하는지 살펴보기 위해, 설명 일관성과 우연적 불확실성 정량화를 포함한 능동적 검증 필터를 도입한 비교 방법론을 제시한다. 나아가 실험 계획법과 에뮬레이터 학습을 결합하여 계산 효율성과 해석 가능성의 균형을 이루는 아키텍처를 선택하기 위한 실용적 지침을 제공한다. 우리는 대조적인 두 패러다임, 즉 하이브리드 전기 항공기의 결정론적 다학제 설계 시뮬레이션과 도시 분리 현상의 확률적 에이전트 기반 시뮬레이션에서 이 프레임워크를 시연한다. 결과는 대리 모델과 XAI를 결합하면 수 초 내에 대규모 탐색이 가능하고, 핵심적인 비선형 상호작용이 드러나며, 잠재적인 설계 및 정책 수단이 부각되는 동시에 아키텍처 전반에 걸쳐 일관된 설명이 확립됨을 보여준다.

arXiv:2508.17591v2math.ST

근 찾기 문제 재고: Robbins-Monro 절차를 넘어서

The Root Finding Problem Revisited: Beyond the Robbins-Monro procedure

본 연구는 반복적인 잡음 섞인 측정을 이용하는 순차적 근 찾기 문제를 다룬다. 우리는 새로운 설계점으로 이동할 시점을 결정하기 위해 비모수 순차 부호 검정을 사용하는 순차 검정 이분법(sequential-test bisection, STB)을 제안한다. 확률적 근사법의 변형들과 비교하여 STB는 더 폭넓은 적응성과 더 빠른 수렴을 제공한다. 회귀함수가 $\theta$의 근방에서 상수 $\textsf{c}_0,\gamma>0$에 대해 $|f(x)|\geq \textsf{c}_0|x-\theta|^\gamma$를 만족할 때(여기서 $\theta$는 근, 즉 $f(\theta) = 0$이다), 우리는 STB가 $\gamma$에 대한 지식을 사용하지 않고도 민맥스 적응 최적 수렴 속도 $\widetilde{O}(n^{-1/(2\gamma)})$를 달성하며 수렴 속도 면에서 Robbins–Monro 및 관련 확률적 근사 방법을 능가함을 보이는 비점근적 보장을 확립한다. 준가우시안 잡음 하에서 STB는 도함수를 추정하지 않고도 근 $\theta$에 대한 유한 표본 신뢰 수열을 제공한다. 양의 기울기 모형에서는 STB에 {무작위 가중 구간 및 모든 관측값에 적합된 직선}을 추가하여 점근 정규성과 일치 분산 추정을 얻는다. 우리는 H\'ajek-Le Cam 유형의 합성곱 정리로 효율성을 정式화한다. 나아가 회귀함수가 근에서 불연속인 경우, Robbins–Monro는 $1/n$ 속도로 수렴하는 반면 STB는 초다항적으로 수렴함을 보인다. 우리는 이 구성을 광선을 따라 표집하는 방식으로 다변량 비모수 수준집합 추정으로 확장한다. 기술적 부산물로서, 독립적으로도 흥미로울 수 있는 증명 기법과 함께 무작위 정지 하에서의 새로운 중심극한정리를 확립한다.

arXiv:2504.05431v5stat.ME

강한 초가우시안 가능도를 위한 일반화된 접선 근사 기반 변분 추론 프레임워크

A Generalized Tangent Approximation based Variational Inference Framework for Strongly Super-Gaussian Likelihoods

변분 추론은 마르코프 연쇄 몬테카를로 표집의 대안으로서 복잡한 베이지안 모델에 대한 확장 가능한 계산을 가능하게 하는 데 혁신적인 역할을 해 왔다. 그럼에도 기존 접근법은 경직된 모델 특화 정식화나 확률적 블랙박스 최적화 루틴에 의존하는 경우가 많다. 접선 근사는 기저 확률 모델의 기하를 활용하는 구조적 변분 방법의 원리적인 한 부류이다. 그러나 그 활용은 대체로 로지스틱 회귀 및 관련 모델링 영역에 국한되어 왔다. 본 논문에서는 강한 초가우시안 가능도를 특징으로 하는 광범위한 확률 모델 부류에 대해 접선 변환에 기반한 새로운 변분 프레임워크를 제안한다. 우리의 방법은 볼록 쌍대성을 활용하여 로그 가능도의 접선 minorant를 구성하며, 이로써 다루기 어려운 설정에서도 모델 파라미터에 대한 가우시안 사전분포와의 켤레성을 유도한다. 데이터 생성 메커니즘에 대한 온건한 가정 하에서 알고리즘 수렴 보장을 수립하는데, 이는 블랙박스 변분 방법에서 통상 얻을 수 있는 제한적인 이론적 보장과 대조되는 기여이다. 또한 준모수적 변분 위험 한계를 도출한다. 제안한 방법론의 우수한 성능은 확장성과 복잡한 기저 데이터 구조를 일관되게 포착하는 능력 측면에서 최신 변분 알고리즘에 도전이 되는 모의 및 실제 데이터 시나리오에서 예시된다.