PyTorchKR Papers

최신 논문

총 4편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.09371v1stat.ML

스펙트럴 디컨파운딩 그래디언트 부스팅

Spectrally Deconfounded Gradient Boosting

유연한 머신러닝 방법은 숨겨진 교란(hidden confounding)에 민감할 수 있다: 이러한 방법은 안정적인 신호가 아닌 관측되지 않은 교란 변수에 의해 유도된 연관성을 학습할 수 있다. 스펙트럴 디컨파운딩(spectral deconfounding)은 밀집 교란(dense confounding) 하에서 잠재 교란 변수 정보를 담고 있는 공변량 행렬의 고분산 방향을 수축시킴으로써 이 문제를 완화한다. 기존 연구는 주로 선형 모델에 집중해 왔다. 우리는 그래디언트 부스팅을 위한 비선형 스펙트럴 디컨파운딩 프레임워크를 개발한다. 우리의 접근 방식은 일반적인 제곱 오차 손실을 스펙트럴 손실로 대체하며, 이는 교란에 정렬된 방향에서의 학습을 늦춤으로써 부스팅 다이나믹스를 변경한다. 디컨파운딩은 스펙트럴 손실만으로는 달성되지 않으며, 스펙트럴 수축과 정규화 간의 상호작용, 특히 조기 종료 측면에서의 상호작용에 의해 달성됨을 보인다. 또한, LAVA형 수축을 랜덤 효과 조정(random-effects adjustment)과 연결하고 스펙트럴 손실 튜닝을 위한 경험적 베이즈(empirical-Bayes) 절차를 도출하는 혼합 모델 해석을 제공한다. 라플라스 근사(Laplace approximations)와 커널 랜덤 효과를 활용하여 방법을 일반 우도 및 비선형 교란으로 확장한다. 합성 및 실제 데이터 실험 전반에 걸쳐, 스펙트럴 디컨파운딩 부스팅은 숨겨진 교란 하에서 목적 함수의 추정을 개선하며, 기존의 비선형 스펙트럴 디컨파운딩 베이스라인보다 확장성이 현저히 뛰어나다.

arXiv:2510.08762v2cs.LG

공간 디컨파운더: 공간 인과 추론을 위한 간섭 인식 디컨파운딩

Spatial Deconfounder: Interference-Aware Deconfounding for Spatial Causal Inference

공간 인과 추론에서 미측정 교란 변수와 처치 간섭이 동시에 존재하는 문제를 해결하기 위해, 이웃 처치 벡터가 잠재 공간 교란 변수의 구조를 드러낸다는 통찰을 바탕으로 C-VAE 기반 대리 교란 변수 재구성과 유연한 결과 모델 추정을 결합한 2단계 방법인 Spatial Deconfounder를 제안한다. SpaCE 벤치마크를 처치 간섭을 포함하도록 확장한 실험에서, 환경 건강 및 사회과학 데이터셋 전반에 걸쳐 직접 효과 및 파급 효과(spillover effect) 추정이 일관되게 향상됨을 보인다.

arXiv:2606.18834v1cs.LG

인과 기전 변화에서 구조적 바이어스 식별

Identifying Structural Biases from Causal Mechanism Shifts

인과 발견 방법들은 일반적으로 모든 데이터가 독립 동일 분포(i.i.d.)를 따른다고 가정하며, 시스템에 영향을 미치는 측정되지 않은 변수가 없다고 가정합니다. 실제로는 이러한 가정들이 종종 위반되어 부정확한 추론으로 이어집니다. 본 논문에서는 인과 기전 변화로부터 숨겨진 교란(confounding)과 선택 바이어스를 식별하는 방법을 연구합니다. 특히, 구조적 바이어스는 의존적인 기전 변화를 초래함을 보여줍니다. 즉, 서로 다른 환경의 데이터가 주어졌을 때 어떤 변수에 대해 기전이 변화하는지 고려함으로써, 어떤 변수가 편향되지 않았는지, 숨겨진 교란의 영향을 받는지, 아니면 선택 바이어스를 겪고 있는지 파악할 수 있습니다. 우리는 이를 상호 정보량에 기반한 경험적으로 테스트 가능한 기준으로 공식화하고, 어떤 조건 하에서 구조적 바이어스를 식별하는지 보여줍니다. 어떤 노드가 어떤 종류의 바이어스의 영향을 받는지 파악하기 위해 StruBI 알고리즘을 소개합니다. 합성 데이터와 실제 데이터에 대한 실험 결과, StruBI가 실제 환경에서도 잘 작동함을 보여주며, 영향을 받은 변수 집합과 바이어스 유형을 정확하게 복원하고 최신 성능(state-of-the-art)을 큰 폭으로 능가합니다.

arXiv:2606.18535v1stat.ME

베이지안 대리 교란 변수를 위한 수축 사전 분포

Shrinkage priors for Bayesian Substitute Confounders

다중 원인 관찰 연구는 원인 간의 의존 구조를 통해 측정되지 않은 교란에 대한 정보를 포함합니다. 그러나 관측되지 않은 교란 변수를 문자 그대로 대체하는 것은 안정적인 인과 조정에 필요한 공유 할당 변동을 보존하는 저차원 대리 점수를 학습하는 것보다 종종 더 복잡합니다. 디컨파운더(Wang and Blei, 2019) 및 관련 대리 교란 변수 방법은 이 아이디어를 활용하지만, 유연한 할당 모델은 원인들의 결합 분포를 적합시킬 수 있음에도 불구하고 처리 벡터를 과도하게 인코딩하거나, 중첩을 붕괴시키거나, 단일 원인 변동을 포착하는 점수를 생성할 수 있습니다. 우리는 수축 사전 분포를 사용하여 대략적인 다중 원인 의존성을 유지하는 희소 대리 교란 변수를 학습하기 위한 베이지안 요인 할당 프레임워크를 개발합니다. 이 이론은 사후 분포 집중, 요인 점수 수축, 중첩 보존 할당 기하학의 수준에서 서술되므로 특정 수축 사전 분포에 의존하지 않습니다. 이러한 조건 하에서, 제안된 회귀 조정 추정량은 해당 잠재 변수 식별 가정이 충족될 때 평균 잠재 결과에 대해 일치성을 가집니다. 수축 사전 분포는 잠재 구조 학습을 위한 자연스러운 도구를 제공합니다. 이는 다중 원인에 의해 지지되는 저차원 요인을 선호하고, 실질적으로 단일 원인 요인을 억제하며, 점진적 수축을 통해 잠재 요인의 순서를 유도합니다. 합성 실험은 신호 강도, 결과 타당성, 기하학 인식 정규화의 역할을 설명합니다. 알츠하이머병 신경영상 이니셔티브(ADNI) 기준선 분석에서, 희소 대리 점수는 침습적 뇌척수액 바이오마커에 직접 조건화하여 얻은 조정의 대부분을 회복하는 반면, 붕괴 진단은 적합된 요인이 개별 관측 측정값으로 축소되는 시점을 식별합니다.