arXiv:2311.08228

Counterfactual Explanation for Regression via Disentanglement in Latent Space

Xuan Zhao, Klaus Broelemann, Gjergji Kasneci

제출 2023-11-14

원문 초록

Counterfactual Explanations (CEs) help address the question: How can the factors that influence the prediction of a predictive model be changed to achieve a more favorable outcome from a user's perspective? Thus, they bear the potential to guide the user's interaction with AI systems since they represent easy-to-understand explanations. To be applicable, CEs need to be realistic and actionable. In the literature, various methods have been proposed to generate CEs. However, the majority of research on CEs focuses on classification problems where questions like "What should I do to get my rejected loan approved?" are raised. In practice, answering questions like "What should I do to increase my salary?" are of a more regressive nature. In this paper, we introduce a novel method to generate CEs for a pre-trained regressor by first disentangling the label-relevant from the label-irrelevant dimensions in the latent space. CEs are then generated by combining the label-irrelevant dimensions and the predefined output. The intuition behind this approach is that the ideal counterfactual search should focus on the label-irrelevant characteristics of the input and suggest changes toward target-relevant characteristics. Searching in the latent space could help achieve this goal. We show that our method maintains the characteristics of the query sample during the counterfactual search. In various experiments, we demonstrate that the proposed method is competitive based on different quality measures on image and tabular datasets in regression problem settings. It efficiently returns results closer to the original data manifold compared to three state-of-the-art methods, which is essential for realistic high-dimensional machine learning applications. Our code will be made available as an open-source package upon the publication of this work.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.26290v1stat.ML공통 태그 regression, counterfactual

변동성 학습: 인과 표 형식 사전학습의 통계적 기초

Learning to Fluctuate: Statistical Foundations for Causal Tabular Pretraining

인과 표 형식 파운데이션 모델은 합성 메커니즘 전반에 걸쳐 효과 추정을 상각(amortize)하지만, 잠재 효과(latent-effect) 지도학습은 고정된 배포 모집단에서 필요한 반복 표본 반응을 직접 인코딩하는 대신 사후 분포 수축(posterior shrinkage)을 보상한다. 본 논문에서는 변동 지도 사전학습(fluctuation-supervised pretraining, FSP)을 제안한다. 각 합성 테이블은 평균 처치 효과(ATE)와 그 효율적 영향 함수(efficient influence-function) 변동의 합으로 레이블링되며, 배포 시에는 여전히 단일 고정 순전파만 수행한다. 경로 $T_{\lambda,P}=\theta(P)+\lambda P_n\psi_P$를 따라 끝점 전이(endpoint transition)를 증명한다. 즉, 고정된 모든 $\lambda<1$에서는 $(1-\lambda)^2/n$ 차수의 레이블 모호성이 남는 반면, 완전한 변동을 사용하면 가우시안 레이블을 관측할 수 있게 되어 최적의 유한 층(finite-stratum) 인과 레이블 예측 위험이 $n^{-2}$ 차수로 감소한다. 하나의 유한 사전학습 경계(bound)는 레이블 오차, 네트워크 오차, 에피소드 샘플링 오차, 최적화 오차를 결합하며, 그 결과로 얻어지는 샘플링 결함(sampling defect)은 고정 메커니즘 바이어스, 평균 제곱 오차, 분산, 가우시안 근사를 제어하고, 분산 헤드(variance-head)의 정확도가 뒷받침될 경우 스튜던트화(studentized) 커버리지까지 제어한다. 상호 보완적인 하한(lower bound)은 배포 관측으로도 제거할 수 없는 국소적 $n^{-1}$ ATE 위험과, 일반적인 유한 사전(finite-dictionary) 에피소드 학습 문제의 $\log N/M$ 초과 위험을 분리한다. 실험은 학습된 샘플링 반응을 추적한다. 원시 행/열(raw-row/column) 백본을 사용할 때, FSP는 대규모 효과 이동(large-effect-shift) 상황에서 RMSE를 잠재 지도학습 대비 69.8%, 동일 테이블에서 공개된 CausalPFN 체크포인트 대비 39.5% 감소시킨다. 연속 공변량 실험, 효과가 알려진 반합성(semisynthesis) 실험, 그리고 두 건의 무작위 연구 평가는 샘플링 법칙 충실도(sampling-law fidelity)와 점 위험 수축(point-risk shrinkage)을 분리하고, 두 학습된 헤드 모두에서 약한 중첩(weak-overlap) 오차가 나타남을 보여준다.

arXiv:2607.22705v1cs.CV공통 태그 Disentanglement, counterfactual

EditCLEVR: 객체 중심 표현의 구성적 충실성을 위한 전후 쌍 장면 개입 벤치마크

EditCLEVR: A Paired-Scene Intervention Benchmark for Compositional Faithfulness of Object-Centric Representations

객체 중심 학습(object-centric learning)은 장면을 객체 단위로 표현하여 각 객체의 속성을 새로운 조합에서 재사용할 수 있게 하는 것을 목표로 한다. 기존 평가는 일반적으로 분할(segmentation), 단일 이미지 요인(factor) 예측, 또는 하류(downstream) 정확도를 점수화하지만, 이러한 테스트는 통제된 의미적 편집(semantic edit) 하에서 객체별(per-object) 표현이 올바르게 동작하는지를 직접적으로 검증하지는 않는다. 우리는 EditCLEVR을 소개한다. EditCLEVR은 전후 쌍 장면 개입 벤치마크로, 각 예시는 동일한 객체 인덱스와 장면 레이아웃을 가진 CLEVR 스타일 렌더의 전/후 쌍을 포함하며, 알려진 한 객체에 대한 정확히 하나의 알려진 속성 변경이 있거나 드리프트(drift) 측정을 위한 편집 없는(no-edit) 재렌더링을 포함한다. 이 프로토콜은 표현 변화의 국소화(localization) 및 안정성(stability)에 대한 프로브 없는(probe-free) 진단을 포함하며, 분포 내(in-distribution) 및 구성적 분포 외(compositional out-of-distribution, OOD) 테스트 스위트에서 예측된 장면 변화가 의도된 개입과 일치하는지를 검증하는 프로브 디코딩(probe-decoded) 의미적 충실성 지표와 함께 제공된다. 이를 통해 코드 공간(code-space) 이동과 디코딩된 객체-속성 정확도를 별도로 평가할 수 있다. 우리는 의미적 지표 Scene-Graph Intervention Accuracy(SGIA)를 도입한다. SGIA는 전체 after-scene 예측이 정확하고, 전에서 후로 예측된 유일한 의미적 변화가 의도된 객체-요인(object-factor) 편집이어야 한다. 또한 Delta-SGIA를 보조 진단으로 정립한다. Delta-SGIA는 전체 after-scene 그래프가 정확할 필요 없이 단일 위치(single-site) 변경 패턴을 검증한다. 정답 마스크(ground-truth-mask) 백본, 학습된 슬롯(learned-slot) 모델, SAM 2 + frozen-ViT 모델, 그리고 하나의 마스크-특징(mask-feature) 하이브리드에 대한 기준선 평가 결과, CoGenT-OOD-core 성능 저하는 정답 인스턴스 마스크 하에서도 지속될 수 있으며, 마스크 출처는 고유 성능의 일부만 설명하고 전부는 아니며, 국소성(locality) 또는 안정성만으로는 의미적 충실성을 과대평가할 수 있음을 보여준다. 코드는 https://github.com/torux-bughunter/EditCLEVR 에서 이용할 수 있다.

arXiv:2607.22603v1cs.AI공통 태그 Disentanglement, counterfactual

개인화 다중모달 대규모 언어 모델에서의 그룹 선호 붕괴

Group Preference Collapse in Personalized Multimodal Large Language Models

개인화 다중모달 대규모 언어 모델(MLLM)은 사용자별 맞춤 응답을 생성하는 것을 목표로 하지만, 기존 방법은 주로 프로필 수준 정보에 의존하고 다양한 사용자 선호를 간과한다. 우리는 그룹 선호 붕괴(group preference collapse)를 확인했는데, 이는 다중 사용자 개인화 MLLM이 개별 선호에 둔감해지고 생성 과정에서 억제된 선호 신호와 신뢰할 수 없는 선호 활용으로 인해 지배적인 집단 수준 선택으로 표류하는 현상이다. 우리는 안정적인 프로필 정보와 선호 관련 표현을 분리하는 선호 중심 프레임워크인 PrefMoE를 제안한다. PrefMoE는 선호를 공유 프로토타입과 개인화 잔차로 분해하고, 불균형 인식 학습, 반사실적 가상 사용자 증강, 잔차 탈상관을 통해 개별화된 잔차를 보존하며, 프로필과 선호 요인을 별도의 LoRA 적응 경로로 라우팅한다. 여러 MLLM 백본에 걸친 실험은 PrefMoE가 선호 민감 개인화를 향상시키면서 선호 붕괴를 실질적으로 줄인다는 것을 보여준다. 프로젝트 페이지: https://prefmoe.github.io/.

arXiv:2607.15254v1cs.AI공통 태그 regression, counterfactual

teLLMe Why (Ain't Nothing but a Jam): 도시 운전 데이터의 탐색적 인과 분석

teLLMe Why (Ain't Nothing but a Jam): Exploratory Causal Analysis of Urban Driving Data

교통 관리 기관은 이제 안전과 혼잡 연구를 위해 대량의 영상 기반 데이터에 접근할 수 있다. 이러한 데이터의 대부분은 관찰 데이터이며 개입 없이 수집되므로, "비가 교통 밀도를 어떻게 변화시킬까?"와 같은 인과 질문에 답하기 어렵다. 우리는 도시 운전 데이터셋의 탐색적 인과 분석을 위한 시스템인 teLLMe를 제안한다. 이 시스템은 대시캠 주석으로 구축된 구조화된 이벤트 테이블에서 출발하여, PC 알고리즘을 이용한 인과 구조 학습, 부트스트랩 기반 안정성 검사, 선형 회귀 및 DoWhy를 이용한 쿼리별 효과 추정을 결합한다. 자연어 질문은 스키마 인지(schema-aware) LLM을 통해 구조화된 인과 쿼리로 매핑되어, 사용자가 처치(treatment), 결과(outcome), 하위 모집단(subpopulation)을 지정할 수 있게 한다. teLLMe는 효과 추정치, 조정 집합(adjustment set), 방향성 비순환 그래프(DAG) 지원, 가정을 요약하는 "Causal Card"를 반환하고, 이어 짧은 자연어 설명을 제공한다. BDD 기반 교통 이벤트에 대한 사례 연구는 이 시스템이 날씨, 피크 시간, 교통 밀도와 관련된 그럴듯한 관계를 드러낼 수 있으며, 불확실성과 모델링 선택을 명시적으로 보여줄 수 있음을 보여준다. 이 시스템은 확정적 인과 주장의 출처라기보다 가설 생성과 전문가 추론을 위한 도구로 설계되었다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.