PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.27144v2cs.LG

미관측 교란 변수에 강건한 위험 점수 학습

Learning Risk Scores Robust to Unobserved Confounders

미관측 교란의 영향을 받는 역사적 관찰 데이터로부터, 희소 자원이나 개입 대상 개인의 우선순위를 정하기 위한 위험 점수를 학습하는 문제를 다룬다. 누가 희소 자원을 받을지에 대한 결정은 설문 응답과 같이 기록된 특성에 기반한 위험 점수에 의해 종종 안내된다. 이러한 위험 점수는 개인의 특성, 배분 결정, 결과에 대한 역사적 기록인 관찰 데이터로부터 직접 학습되는 경우가 점점 늘고 있다. 역사적 배분 정책이 도입한 바이어스를 보정하는 역 성향 가중치(inverse propensity weighting, IPW)와 같은 표준 방법은, 역사적 결정 과정이 기록된 특성으로 완전히 설명될 수 있다면 정확한 위험 점수를 학습하는 데 사용될 수 있다. 그러나 실무에서는 역사적 결정이 종종 기록되지 않은 정보에 의존하여, 학습된 위험 점수가 과거 우선순위를 이끌었던 기록되지 않은 상황을 가진 개인들을 정확히 체계적으로 과소 우선순위화하게 만든다. IPW를 기반으로, 이러한 종류의 미관측 교란에 강건한 위험 점수를 학습하는 방법을 제안한다. 미관측 교란 하에서는 성향 가중치를 신뢰할 수 있게 추정할 수 없으므로, 대신 관측 가능한 데이터와 교란 정도에 대한 도메인 정보 기반 추정치로 결정되는 불확실성 집합에 속하는 것으로 취급하며, 인과 추론(causal inference)의 민감도 분석(sensitivity analysis)과 Wasserstein 분포적 강건 최적화(Wasserstein distributionally robust optimization)를 결합한다. 그 결과 강건 위험 점수 학습 문제는 표본 기반 근사를 허용하며, 이를 기성 솔버와 호환되는 지수 원뿔 프로그램(exponential cone program)으로 재공식화한다. UCI Machine Learning Repository의 데이터셋에서 파생된 반합성(semi-synthetic) 데이터에서 접근법의 효과를 입증한다. 제안 방법은 다른 지표를 손상하지 않으면서, 전통적 벤치마크 대비 보정(calibration)을 최대 29.2%까지, 최신(state of the art) 대비 최대 11.1%까지 개선한다.

arXiv:2607.13428v1cs.LG

PUe: 인과 추론에 의한 바이어스 Positive-Unlabeled 학습 향상

PUe: Biased Positive-Unlabeled Learning Enhancement by Causal Inference

Positive-Unlabeled(PU) 학습은 라벨이 붙은 양성(positive) 예시가 제한적이고 비표기(unlabeled) 예시가 많은 상황에서 높은 정확도의 이진 분류(classification)를 달성하는 것을 목표로 한다. 기존 비용 민감(cost-sensitive) 기반 방법들은 관측된 양성 라벨을 가진 예시가 완전히 무작위로 선택되었다는 강한 가정에 종종 의존한다. 실제로 라벨의 불균등한 분포는 실세계 PU 문제에서 흔하며, 이는 대부분의 실제 양성 데이터와 비표기 데이터가 선택(selection) 바이어스의 영향을 받는다는 것을 시사한다. Bekker 등의 SAR-PU 성향 가중(propensity-weighted) 프레임워크를 기반으로, 우리는 정규화된 성향 점수와 정규화 역확률 가중(normalized inverse probability weighting, NIPW)를 사용하는 PU 학습 향상(PUe) 프레임워크를 연구한다. PUe의 주요 기여는 정규화 역확률 가중 PU 위험(risk) 정식화, 바이어스된 라벨링 하에서 정규화 표본 가중치(weight) 오류와 일반적인 PU 추정량(estimator)에 대한 추가 이론 분석, 정규화된 심층 성향 점수 추정, 최신 비용 민감 PU 방법과의 통합, 선택적으로 라벨이 붙은 음성(negative) 클래스 지원이다. MNIST, CIFAR-10, ADNI에 대한 실험은 비균등 라벨 분포 하에서 여러 PU 베이스라인 대비 개선을 보여준다.

arXiv:2606.21185v2stat.ML

인과 추정에서 불안정성의 두 층

Two Layers of Instability in Causal Estimation

관측 데이터 인과 추정에는 데이터 분포가 조금만 달라져도 인과 효과가 크게 바뀔 수 있는 1층 불안정성 외에, 추정량 선택에 따른 2층 불안정성이 있으며 많은 표준 점 추정치는 구조적 인과 모델(SCM) 공간 위 다중 모드 분포의 점 요약으로 해석된다. 역성향 가중·회귀 추정량은 불연속 요약의 예이고, 명시적 사후 평균·중앙값은 연속적이며, 안정성은 추정량의 암묵적 손실 함수가 인과 효과와 정렬(alignment)되는지에 달린다.