arXiv:2606.12930v1 cs.LG

허위 상관 제거는 항상 학습 가능한가?

Is Spurious Correlation Removal Always Learnable?

Yibo Zhou, Bo Li, Hai-Miao Hu, Hanzi Wang, Xiaokang Zhang, Ruifan Zhang

제출 2026-06-11

한국어 초록

불변 학습(invariant learning)은 불변 구조가 통계적으로 식별 가능(identifiable)하더라도 실패할 수 있다. 우리는 조건부 계산적 장벽(computational barrier)을 보인다. 평균 사례(average-case) 희소 복원(sparse recovery) 축약(reduction)에 동기를 부여한 블랙박스 샘플 가능(samplable) 지도 희소 복원 원시(primitive) 하에서, 1차원 예측적 불변 부분공간($k=1$)을 갖는 샘플 가능 다중환경(multi-environment) 인스턴스가 존재하며, 이는 탐색적 전수 검색(exhaustive search)으로 다항 샘플로 학습 가능하지만, 임의의 다항 시간 상수 정확도(constant-accuracy) 복원 알고리즘은 해당 원시와 모순된다. 우리는 환경 다양성을 분리 파라미터 $γ$로 정량화하며, 이는 식별 가능성과 불변성 목적 함수의 곡률(curvature)을 제어한다. 충분한 다양성과 국소 가우시안 정규성(local Gaussian regularity) 하에서, 최소-최대 위험(minimax risk)은 $\mathbb{E}[\dist(\hat{V},V_{\mathrm{inv}})^2]=Θ(k(d-k)/(n|\mathcal{E}|))$이며, 레이블 유도 변화(label-induced shifts) 하에서는 $n^*\propto k(d-k)/(|\mathcal{E}|γ^2)$에서 위상 전이(phase transition)가 발생하고, 정제된 추정 오차(estimation error)는 $1/γ^2$에 비례하여 스케일링된다. 합성 및 실제 데이터셋이 예측된 격차(gap)와 전이를 보여 주며, 간단한 다양성 진단(diversity diagnostics)을 제안한다.

원문 초록

Invariant learning can fail even when the invariant structure is statistically identifiable. We show a conditional computational barrier: under a black-box samplable supervised sparse recovery primitive motivated by average-case sparse-recovery reductions, there exist \emph{samplable} multi-environment instances with a one-dimensional predictive invariant subspace ($k=1$) that are learnable with polynomial samples by exhaustive search, while any polynomial-time constant-accuracy recovery algorithm would contradict the primitive. We further quantify environment diversity by a separation parameter $γ$, which controls identifiability and the curvature of invariance objectives. Under sufficient diversity and local Gaussian regularity, the minimax risk is $\mathbb{E}[\dist(\hat{V},V_{\mathrm{inv}})^2]=Θ(k(d-k)/(n|\mathcal{E}|))$, and under label-induced shifts a phase transition occurs at $n^*\propto k(d-k)/(|\mathcal{E}|γ^2)$ with refined estimation error scaling proportional to $1/γ^2$. Synthetic and real datasets illustrate the predicted gaps and transitions and motivate simple diversity diagnostics.

요약

불변 학습(invariant learning)은 통계적으로 식별 가능한 구조가 존재하더라도 다항 시간 알고리즘으로는 학습이 불가능한 조건부 계산적 장벽이 있음을 보여줍니다. 환경 다양성을 제어하는 분리 파라미터 $\gamma$를 도입하여 최소-최대 위험(minimax risk)을 정량화하고 레이블 유도 변화 하에서 위상 전이(phase transition)가 발생함을 입증했습니다.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.12930v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.18462v5cs.CV공통 태그 Causal Inference, Domain Generalization

CSWAM: 월드 액션 모델에서의 분포 외 일반화를 위한 더 나은 인과적 의미 표현

CSWAM: Better Causal Semantic Representations for Out-of-Distribution Generalization in World Action Models

FastWAM 방식의 월드 액션 모델(world action model)은 효율적인 액션 전용 추론(action-only inference)을 가능하게 하지만, 시각적 분포 변화(visual distribution shift) 하에서는 일반화 성능이 떨어진다. 이러한 모델의 재구성 지향적 표현은 외형에 특화된 세부 정보를 강조하여, 보지 못한 장면과 객체에 대한 일반화를 제한한다. 관찰 이력이 없는 경우, 모델은 낯선 시각적 조건에서 과제와 관련된 상태 변화와 움직임을 견고하게 식별하기 위한 시간적 증거도 갖추지 못한다. 이러한 한계를 해결하기 위해, 우리는 V-JEPA 2.1을 기반으로 한 인과적 의미 전문가(causal semantic expert)로 FastWAM을 보강한 인과적 의미 월드 액션 모델(Causal Semantic World Action Model, CSWAM)을 제안한다. V-JEPA는 외형에 특화된 세부 정보에 대한 의존도를 낮추면서, 의미적 상태 변화와 움직임에 대해 시간적으로 근거 있는(temporally grounded) 표현을 제공한다. 이 전문가 모듈은 현재 및 과거 관찰의 희소한(sparse) 이력으로부터 그 미래 변화를 학습하며, 이력에서 도출된 맥락(context)을 인과적 어텐션(causal attention)을 통해 비디오 스트림과 액션 스트림 모두와 공유한다. 추론 시, CSWAM은 현재 비디오 상태와 관찰된 의미적 이력을 조건으로 액션 디노이징(action denoising)을 수행하여, 효율적인 액션 전용 추론을 유지한다. 우리는 분포 변화 하에서의 일반화 성능을 평가하기 위해 시뮬레이션 및 실제 로봇 실험을 수행한다. 체화된(embodied) 사전학습(pretraining)을 적용했을 때, CSWAM은 RoboTwin 2.0의 Clean-to-Randomized 전이(transfer)에서 Randomized 성공률을 10.16%에서 45.18%로 끌어올려, FastWAM 대비 35.02퍼센트포인트의 향상을 보인다. 두 가지 실제 로봇 과제와 세 가지 OOD 난이도 수준에 걸쳐, CSWAM은 FastWAM 대비 평균 성공률을 27.5%에서 70.0%로, 42.5퍼센트포인트 향상시킨다.

arXiv:2609.22582v1cs.CV공통 태그 Causal Inference, Domain Generalization

리더보드를 넘어서: 도메인 시프트 하의 엔드투엔드 및 VLA 주행 정책에 대한 반사실적 진단

Beyond the Leaderboard: Counterfactual Diagnosis of End-to-End and VLA Driving Policies Under Domain Shift

엔드투엔드 및 비전-언어-행동(VLA) 주행 정책은 리더보드 순위로 비교되지만, 순위는 결과만 보여줄 뿐 그 뒤에 있는 행동을 보여주지 않기 때문에 새로운 장소에서 정책이 어떻게 행동할지를 잘 예측하지 못한다. 공개된 여섯 개의 정책에서, nuScenes 오픈루프 오차나 NAVSIM 리더보드 상의 순위는 새로운 장소에서 자아 차량(ego) 주행 통로 근처에 보행자가 있는 장면으로는 이어지지 않는다. 우리는 반사실적 점검(counterfactual check-up)을 제안한다: 수백 개의 실제 프레임을 각각 두 가지 방식(보행자 제거, 또는 야간 스타일 섭동에 의한 재조명)으로 편집하고, 모든 편집을 독립적인 검출기로 검증하며, 계획된 궤적의 변화를 점수가 아닌 진단으로 해석한다. 이러한 편집으로부터 두 개의 인과 축(causal axes)을 읽어내고, 이를 기반으로 한 다섯 가지 검사는 하나의 점수가 뒤섞어 놓은 것들을 분리한다: 정책이 얼마나 멀리까지 주행할 계획인지, 보행자를 인지하는 것이 안전성을 확보해주는지, 그 반응이 위험도에 비례해 커지는지, 아무런 요구가 없을 때도 계획이 변하는지, 그리고 무관한 조명 변화가 계획을 얼마나 움직이는지. 246개의 NAVSIM 보행자 인접 장면에서, 보행자가 계획된 경로 위에 있는 셀 중 단 1.9%만이 진정한 회피 반응이었으며, 우리의 오픈루프 프로토콜 하에서 모든 정책에 대해 여유 거리(clearance)의 중앙값 변화는 최대 0.03 m, 계획된 거리의 중앙값 변화는 최대 0.08 m에 불과했다. 좌측통행에서 우측통행으로의 사전등록된(pre-registered) 테스트에서, 노출(exposure) 및 특이성(specificity) 순위, 조명 판정(lighting verdict), 충돌 결과는 전이되었지만, 점수 값과 위험 민감도(hazard-sensitivity) 판정은 전이되지 않았다. 선별 보고서(selection report)로 읽으면, 이 프로파일들은 어떤 정책이 짧게 계획하기 때문에 안전한지, 어떤 정책이 양보 없이도 인간과 비슷한 거리를 확보하는지, 어떤 정책이 아무런 반응이 필요 없는 변화에도 불안정한지를 말해주며, 각 판정에 드는 비용도 알려준다: 대부분은 수십 개의 프레임 내에서 안정되지만, 위험 민감도는 수백 개가 필요하다. 코드와 편집된 프레임은 공개될 예정이다.

arXiv:2607.12091v3cs.CV공통 태그 Causal Inference, Domain Generalization

정서 행동 분석을 위한 어텐션의 인과적 감독

Causal Supervision of Attention for Affective Behaviour Analysis

제11회 Affective Behaviour Analysis in-the-wild Competition에는 Multi-Task Learning Challenge가 포함되며, 참가자들은 Valence-Arousal 추정, 표정 인식, Action Unit Detection을 위한 통합 프레임워크를 개발한다. 과제는 신원, 조명, 자세, 인구통계적 변이와 같은 허위 요인(spurious factors)에 견고하면서도 피험자 간 일반화되는 감정 관련 표현을 학습하는 데 있다. 사전학습된 백본에서 추출한 특징을 예측을 위한 간결한 표현으로 집계하기 위해, 어텐션 메커니즘이 가장 정보가 풍부한 얼굴 영역에 선택적으로 가중치를 부여한다. 그러나 이러한 어텐션 가중치는 진정한 정서 단서보다 데이터셋 특이적 상관관계를 여전히 포착할 수 있다. 이 한계를 해결하기 위해, 우리는 인과적 감독과 어텐션 구성요소의 교차-공분산 정규화를 결합한 어텐션 풀링 프레임워크를 제안하여, 피험자 불변 어텐션과 비중복 표현을 유도함으로써 일반화를 향상시킨다. 우리 방법은 공식 검증 세트에서 VA 추정에 대해 $CCC_{VA}=0.5123$을, 표정 인식과 Action Unit Detection에 대해 각각 $F_{EX}=0.3116$ 및 $F_{AU}=0.3974$을 달성하여, 개별 과제 지표의 합인 전체 $P$ 점수 $1.2214$를 기록한다.

arXiv:2607.14720v1cs.CV공통 태그 Causal Inference, Domain Generalization

전립선 MRI 등급 판정을 위한 임상 공변량의 인과-적대적 탐색

Causal-Adversarial Probing of Clinical Covariates for Prostate MRI Grading

전립선 MRI 기반 암 등급 판정을 위한 심층 학습 모델은 유용한 질병 관련 신호를 반영하거나 일반화되지 않는 지름길(shortcut) 정보를 반영하는 임상 공변량을 인코딩할 수 있지만, 이들의 역할은 보통 가정으로만 취급된다. 우리는 MRI 기반 International Society of Urological Pathology (ISUP) Grade Group 예측에서 공변량 의존성을 탐색하기 위한 인과 추론 프레임워크를 제안한다. 등급의 직접적 원인으로 mpMRI를 다루는 대신, MRI 외관과 ISUP 등급을 잠재 종양 병리학의 관측값으로 모델링하고, 후보 임상 변수가 학습된 표현에서 방해(nuisance) 상관 변수, 질병 관련 대리 지표(proxy), 또는 무관한 공변량으로 작용하는지 검증한다. 이를 개별 임상 공변량의 디코딩 가능성을 한 번에 하나씩 억제하면서 MRI 기반 등급 예측은 유지하는 적대적 프레임워크를 사용해 구현한다. 이 접근법은 2,903건의 전립선 MRI 검사에서 개발 및 평가되었으며, 576명의 환자에 대해 외부 검증을 수행했다. 우리는 심층 학습 일반화 맥락에서 흥미롭고 이전에는 충분히 탐구되지 않았던 영상-임상 변수 상호작용을 보고한다. 예를 들어, 이진 ISUP Grade Group $\geq2$ 분류에서 age, BMI, alcohol use를 억제하면 AUC가 각각 1.23%, 0.84%, 1.42% 향상되었으며(모두 p < 0.05), 이는 일반화되지 않는 공변량 정보가 감소했음을 시사한다. 반면 PSA와 prostate volume을 억제하면 AUC가 1.91% 및 7.61% 하락했으며(모두 p < 0.001), 이는 해당 변수들이 과제 관련 신호를 담고 있었음을 나타낸다. 이러한 결과는 적대적 공변량 억제가 전립선 MRI 등급 모델에서 잠재적으로 유해한 의존성과 정보성 신호를 구분하는 실용적인 표현 수준 분석을 제공할 수 있음을 보여준다.

arXiv:2607.09695v1cs.LG공통 태그 Causal Inference, Domain Generalization

FedCausal-Dyn: 동적 특징 드리프트 하의 연합학습을 위한 인과-동적 패러다임

FedCausal-Dyn: A Causal-Dynamic Paradigm for Federated Learning under Dynamic Feature Drift

본 논문은 연합학습(federated learning)에서 동적 특징(feature) 드리프트(drift)라는 난제를 다룬다. 이는 데이터 분포가 클라이언트 간, 그리고 시간에 걸쳐 변화하는 현상으로, 금융 기술과 같은 실세계 응용에서 흔히 발생한다. 기존 접근법들은 정적 드리프트를 가정하는 경우가 많아 비정상(non-stationary) 환경에서의 효과가 제한적이다. 이를 극복하기 위해 우리는 인과-동적 패러다임에 기반한 새로운 연합학습 프레임워크 FedCausal-Dyn을 제안한다. 핵심 혁신은 인과-도메인 특징 분리(causal-domain feature separation)로, 전문화된 프로젝션 헤드와 적대적 학습(adversarial training)을 통해 도메인 불변 인과 특징을 허위적(spurious)이고 도메인 특화적인 변동으로부터 분리한다. 이를 통해 신뢰성 있는 동적 프로토타입 집계(reliable and dynamic prototype aggregation)가 가능해지며, 전역 집계 전에 추정된 신뢰도에 따라 로컬 클래스 프로토타입에 가중치를 부여한다. 나아가 인과-특징 기반 협력적 정규화(causal-feature guided collaborative regularization)를 도입하여 프로토타입 대조 정렬(prototype contrastive alignment)과 도메인 불변성을 하나의 통합 목적 함수로 결합한다. 세 가지 연합 도메인 일반화 벤치마크에 대한 광범위한 실험을 통해 FedCausal-Dyn이 일관되게 최고 수준의 성능을 달성하며, 가장 높은 평균 정확도와 가장 안정적인 결과를 보임을 입증한다. 절제 연구(ablation study)를 통해 각 구성 요소의 핵심적인 기여가 확인된다. 본 연구는 동적 특징 드리프트 하의 연합학습에 대한 견고하고 원칙적인 해결책을 제시한다.

arXiv:2609.07780v3cs.CV공통 태그 Domain Generalization

DroneGround: 합성 데이터와 그라운디드 비전-언어 모델을 활용한 오픈 보캐블러리 드론 탑재체 특성 분석

DroneGround: Open-Vocabulary Drone Payload Characterization Using Synthetic Data and Grounded Vision-Language Models

자동화된 드론 감시는 공공 안전, 중요 인프라 보호 및 제한 공역 모니터링을 위해 점점 더 중요해지고 있습니다. 기존의 비전 기반 시스템은 드론 탐지 및 추적에서 뛰어난 성능을 달성하지만, 원거리 촬영 조건에서는 주석이 달린 실제 데이터셋의 부족과 배포 시 직면하는 상당한 분포 변화(distribution shift)로 인해 신뢰할 수 있는 탑재체(payload) 특성 분석이 여전히 매우 어려운 과제로 남아 있습니다. 기존 접근법들은 탑재체 특성 분석을 닫힌 집합(closed-set) 객체 검출 문제로 정식화하여, 이전에 보지 못한 탑재체를 인식하고 학습 분포를 넘어 일반화하는 능력을 제한합니다. 이러한 문제를 해결하기 위해, 본 논문에서는 Unreal Engine 5와 Cosys-AirSim을 사용하여 사실적인(photorealistic) 합성 드론-탑재체 데이터셋을 생성하고, 강력한 오픈 보캐블러리(open-vocabulary) 탑재체 분석을 위한 2단계 프레임워크인 DroneGround(Grounded Vision-Language Payload Characterization)를 제안합니다. DroneGround는 먼저 YOLO26s 검출기를 사용하여 드론의 위치를 특정하고 드론 중심의 이미지 크롭을 추출한 다음, LoRA 파인튜닝된 PaliGemma 비전-언어 모델을 활용해 탐지된 드론 및 부착된 탑재체에 대한 시맨틱 설명을 생성함으로써 사전에 정의된 범주를 넘어서는 오픈 보캐블러리 탑재체 특성 분석을 가능하게 합니다. 또한 폐색 기반 그라운딩(grounding) 모듈은 생성된 설명에 기여하는 이미지 영역을 식별하여 해석 가능한 탑재체 위치 추정 기능을 제공합니다. 합성 및 실제 드론 영상 모두에 대한 광범위한 실험을 통해 DroneGround가 합성-실제(synthetic-to-real) 분포 변화 하에서 견고성을 크게 향상시켜 F1-점수를 82.5%에서 96.3%로 높여 기존의 닫힌 집합 탑재체 검출기를 능가하는 동시에, 이전에 보지 못한 탑재체 범주에 대해서도 훨씬 더 우수한 일반화 성능(F1 80.4% 대 42.7%)을 달성함을 입증합니다. 데이터셋과 코드는 요청 시 공개될 예정입니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.