원문 초록
This paper introduces a categorical account of infinitesimal causality in Frobenius Markov categories equipped with tangent-bundle semantics. IDC captures the infinitesimal layer in which interventions act as tangent deformations of copy/discard structure. Two distinct Frobenius structures interact: (1) the categorical Frobenius algebra on classical variables encoding copying, comparing, and discarding; and (2) the geometric Frobenius integrability condition, namely involutive closure of the intervention distribution, distinct from the algebraic Frobenius structure. Categorical causal sufficiency is defined as the compatibility of these two notions. A key observation is that, for structural causal models, infinitesimal causality is most naturally formulated in the slice of deterministic mechanisms over exogenous variables, with visible stochastic kernels obtained only after pushforward. Interventions are tangent vectors that deform the Frobenius copy/discard operations; their Lie brackets measure whether this deformation preserves classical information-flow structure. Pearl's do-calculus is used as a guiding example of intervention identities: ignoring irrelevant interventions corresponds to counit invariance, action/observation exchange to coproduct compatibility with pushforward, and independence to involutive bracket closure of the visible intervention distribution.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.24621v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
방향성 비순환 그래프를 넘어서: 인과적 영과 인과 미분방정식
Beyond Directed Acyclic Graphs: Causal Zeros and Causal Differential Equations
Pearl의 구조적 인과 모델(SCM) 프레임워크는 방향성 비순환 그래프(DAG)와 do-연산(do-calculus) 위에 구축되어 있으며, 인과 추론을 위한 지배적인 형식 언어이다. 그러나 이는 두 가지 구조적 제약을 지닌다: 모든 관계는 사전에 방향성 인과 간선으로 지정되어야 하고, 피드백 순환은 금지된다. 본 논문은 이러한 제약을 압박하는 두 클래스의 현상을 검토한다. 첫째, 이상기체 법칙이 대표적인 경우인 대칭적 물리·경제 제약은 고유한 인과 방향을 갖지 않는다. 방향은 개입(intervention) 하에서만 나타나며, 어떤 변수를 풀 대상으로 할지는 개입의 일부로 지정되어야 한다. 우리는 활성화 연산자(activation operator)를 추가하여 확장 인과 모델(Extended Causal Model) 내에서 이러한 제약을 인과적 영(causal zeros)으로 형식화하며, 이는 국소 가해성(local solvability)과 그래프 허용성(graph-admissibility) 조건을 따른다. 둘째, 여기서 고려하는 유한 전파 상태공간 시스템 클래스에 대해, 겉보기 순간 순환을 억압된 시간의 인공물로 취급하고 인과적 영과 피드백 모두를 인과 미분방정식(CDE)에 기반한다. 이들에서 과도(transient) 영역은 시간 전개된 비순환 인과 과정이며, 인과적 영은 끌어당기는 평형 다양체의 정의 함수로 나타난다. 주기적·혼돈 attractor는 동일 역학의 추가 영역을 정의하며, attractor-상대 개입(attractor-relative intervention)을 통해 다룬다. 우리는 확장된 do-연산, 식별 가능성 조건, 반사실 의미론, 및 열린 문제들을 제시한다.
하나의 해답을 향한 세 가지 경로: 응용 연구자를 위한 AIPW, TMLE 및 이중 머신러닝의 일치화
Three Routes to One Answer: Reconciling AIPW, TMLE, and Double Machine Learning for Applied Researchers
Optimal Expert Annotation for Evaluating Sequential Decision Policies from Text Records
그래프 신경망을 활용한 상각 반사실적 예측
Amortized Counterfactual Prediction with Graph Neural Networks
반사실적 추론(counterfactual inference)은 환자가 다른 치료를 받았을 때 회복했을지와 같이, 다른 상황에서 관찰된 결과가 어떻게 달라졌을지를 묻습니다. 이러한 질문은 관찰되지 않은 대안의 결과에 의사결정이 좌우될 때마다 발생합니다. 반사실적 질의에 답하려면 일반적으로 기저 인과 구조에 대한 지식이 필요하지만, 이는 실제 환경에서는 얻기 어려운 경우가 많습니다. 따라서 일반적인 접근 방식은 관찰 데이터로부터 인과 그래프를 먼저 추정한 다음 반사실적 추론을 수행하는 것입니다. 그러나 추정된 인과 그래프의 오류는 다운스트림 반사실적 예측으로 전파될 수 있습니다. 이러한 문제를 해결하기 위해, 본 연구에서는 인과 그래프를 먼저 추정하지 않고 관찰 데이터로부터 직접 반사실적 질의에 답하는 엔드투엔드 접근법인 Counterfactual Graph Neural Process(CFGNP)를 소개합니다. CFGNP는 그래프 신경망(GNN)을 활용하여 교차 세계 메시지 전달(cross-world message passing)을 대응하는 사실-반사실 변수로 제한함으로써 이중 그래프 구조를 활용합니다. 합성 데이터 및 이미지 기반 벤치마크 전반에서 CFGNP는 기존 접근 방식보다 더 강력한 예측 성능을 달성하며, German Loan 벤치마크에서는 MSE를 $4.51 \times 10^{-2}$에서 $0.19 \times 10^{-2}$로 감소시킵니다. 또한 합성 인과 그래프에서 10개 노드 그래프로만 학습된 모델은 재학습 없이도 최대 30개 노드를 가진 그래프에서 강력한 예측 성능을 유지합니다.
통제된 실험 없이 과학적 에뮬레이터에서 반사실적 예측하기
Counterfactual Predictions in Scientific Emulators Without Controlled Experiments
많은 과학적 질문은 한 번도 관측되지 않은 것에 대한 추론을 요구한다: 조건, 개입, 혹은 역사가 달랐다면 어땠을까? 모델은 관측된 데이터에서는 정확하게 예측할 수 있지만, 상관된 입력들을 독립적으로 변화시키는 이러한 가정적(what-if) 질의에서는 실패할 수 있다. 일반적인 해결책은 이러한 요인들이 명시적으로 분리된 통제된 시뮬레이션 데이터를 추가하는 것이지만, 이는 시뮬레이터에 대한 접근을 필요로 하고, 계산 비용이 높을 수 있으며, 시뮬레이터의 모델링 가정을 그대로 물려받는다. 우리는 ReRoute를 소개한다. 이는 사실적(factual) 데이터와 부분적인 메커니즘 지식을 결합하여 목표로 하는 과학적 가정 예측을 수행하는 프레임워크로, 적응을 위한 통제된 개입(intervention) 데이터를 필요로 하지 않는다. ReRoute는 사전학습된 백본(backbone)의 질의 대상 입력을 기준값(reference value)으로 고정한 뒤, 알려진 메커니즘 경로(mechanistic pathway)를 통해 그 변동을 다시 도입하고, 원본 사실적 데이터로 파인튜닝을 수행하며, 하류(downstream) 효과는 학습된 동역학(dynamics)에 맡긴다. 우리는 명시적인 구조적 가정 하에서 이러한 구성에 대한 인과적 식별(causal identification) 결과를 제시하며, 핵심 논증은 Lean을 이용해 기계적으로 검증되었다. 정확한 응답을 얻을 수 있는 통제된 이송-확산(advection-diffusion) 시스템에서 ReRoute가 매우 정확한 반사실적 예측을 달성함을 보인 뒤, 우리는 최신(state-of-the-art) 기후 에뮬레이션(climate emulation)으로 눈을 돌린다. 홀드아웃(held-out)된 결합 기후(coupled-climate) 개입에 대해, ReRoute는 심각한 CO$_2$ 분포 변화(distribution shift) 하에서 전체 기후 오차를 18.2-31.8% 감소시키는 동시에 표준 조건에서의 성능(skill)은 그대로 유지하며, 이러한 데이터를 생성하는 데 드는 상당한 비용을 고려하지 않더라도 추가적인 통제된 시뮬레이션으로 재학습하는 비용의 일부에 불과한 비용으로 이를 달성한다. 마지막으로, 반사실적 기준(reference)이 존재하지 않는 과거 ERA5 재분석(reanalysis) 데이터로 학습된 에뮬레이터에서, ReRoute는 고정 CO$_2$ 반사실적 조건(fixed-CO$_2$ counterfactual) 하에서 관측된 경계 조건(boundary conditions)이 시사하는 지표면 온난화(surface warming)를 상당히 더 많이 보존한다.
행동에서 기원까지: 정형 파운데이션 모델을 합성 사전학습 데이터로 귀속하기
From Behavior to Provenance: Attributing Tabular Foundation Models to Synthetic Pretraining Data
학습 데이터 기여도 분석(training-data attribution)은 어떤 학습 예제가 모델의 행동을 형성하는지 식별하는 것을 목표로 하지만, 인과적 학습 영향력을 관찰하기 어렵기 때문에 이러한 주장을 검증하기는 어렵습니다. 본 논문에서는 통제된 합성 사전학습(pre-training)을 통해 기여도 분석을 실험적으로 검증 가능하게 만들 수 있다고 주장합니다. 정형 파운데이션 모델(tabular foundation model)을 위한 풍부한 기원(provenance) 정보를 담은 합성 태스크 생성기인 O'PRIOR를 활용하여, 모든 사전학습 태스크가 구조적 메커니즘, 결측성, 교란, 지름길(shortcut), 분포 변화에 대한 명시적인 계통(lineage)을 갖는 테스트베드를 구축합니다. 우리는 태스크 수준의 충실도와 메커니즘 수준의 일관성을 모두 검증하기 위해 행동 조건부 기여도 분석을 반사실적 재학습 및 기원 인지 개입과 결합합니다. 홀드아웃된 실제 태스크에서 기여도 상위 5%의 합성 태스크를 제거하면 평균 ROC-AUC가 0.013 감소하여 무작위 제거 시의 0.002$\pm$0.004와 대조를 이룬 반면, 기여도 하위 태스크를 제거하면 성능이 0.003 향상됩니다. 지름길 기원 태스크 내에서 목표 제거를 수행하면 일치된 무작위 제거의 0.016 대비 0.043의 효과를 보입니다. 상당한 상위 k개 농축에도 불구하고 랭킹 AUROC 기준 기원 판별력은 다소 완만한 수준(0.55-0.62)으로 나타나, 기원 연관성과 개입적 충실도가 반드시 일치하지는 않음을 보여줍니다. 이러한 결과는 합성 기원이 검증 가능한 기여 귀속을 위한 통제된 환경임을 입증합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.