Counterfactual Explanation for Fairness in Recommendation
원문 초록
Fairness-aware recommendation eliminates discrimination issues to build trustworthy recommendation systems.Explaining the causes of unfair recommendations is critical, as it promotes fairness diagnostics, and thus secures users' trust in recommendation models. Existing fairness explanation methods suffer high computation burdens due to the large-scale search space and the greedy nature of the explanation search process. Besides, they perform score-based optimizations with continuous values, which are not applicable to discrete attributes such as gender and race. In this work, we adopt the novel paradigm of counterfactual explanation from causal inference to explore how minimal alterations in explanations change model fairness, to abandon the greedy search for explanations. We use real-world attributes from Heterogeneous Information Networks (HINs) to empower counterfactual reasoning on discrete attributes. We propose a novel Counterfactual Explanation for Fairness (CFairER) that generates attribute-level counterfactual explanations from HINs for recommendation fairness. Our CFairER conducts off-policy reinforcement learning to seek high-quality counterfactual explanations, with an attentive action pruning reducing the search space of candidate counterfactuals. The counterfactual explanations help to provide rational and proximate explanations for model fairness, while the attentive action pruning narrows the search space of attributes. Extensive experiments demonstrate our proposed model can generate faithful explanations while maintaining favorable recommendation performance.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
미관측 교란 변수에 강건한 위험 점수 학습
Learning Risk Scores Robust to Unobserved Confounders
미관측 교란의 영향을 받는 역사적 관찰 데이터로부터, 희소 자원이나 개입 대상 개인의 우선순위를 정하기 위한 위험 점수를 학습하는 문제를 다룬다. 누가 희소 자원을 받을지에 대한 결정은 설문 응답과 같이 기록된 특성에 기반한 위험 점수에 의해 종종 안내된다. 이러한 위험 점수는 개인의 특성, 배분 결정, 결과에 대한 역사적 기록인 관찰 데이터로부터 직접 학습되는 경우가 점점 늘고 있다. 역사적 배분 정책이 도입한 바이어스를 보정하는 역 성향 가중치(inverse propensity weighting, IPW)와 같은 표준 방법은, 역사적 결정 과정이 기록된 특성으로 완전히 설명될 수 있다면 정확한 위험 점수를 학습하는 데 사용될 수 있다. 그러나 실무에서는 역사적 결정이 종종 기록되지 않은 정보에 의존하여, 학습된 위험 점수가 과거 우선순위를 이끌었던 기록되지 않은 상황을 가진 개인들을 정확히 체계적으로 과소 우선순위화하게 만든다. IPW를 기반으로, 이러한 종류의 미관측 교란에 강건한 위험 점수를 학습하는 방법을 제안한다. 미관측 교란 하에서는 성향 가중치를 신뢰할 수 있게 추정할 수 없으므로, 대신 관측 가능한 데이터와 교란 정도에 대한 도메인 정보 기반 추정치로 결정되는 불확실성 집합에 속하는 것으로 취급하며, 인과 추론(causal inference)의 민감도 분석(sensitivity analysis)과 Wasserstein 분포적 강건 최적화(Wasserstein distributionally robust optimization)를 결합한다. 그 결과 강건 위험 점수 학습 문제는 표본 기반 근사를 허용하며, 이를 기성 솔버와 호환되는 지수 원뿔 프로그램(exponential cone program)으로 재공식화한다. UCI Machine Learning Repository의 데이터셋에서 파생된 반합성(semi-synthetic) 데이터에서 접근법의 효과를 입증한다. 제안 방법은 다른 지표를 손상하지 않으면서, 전통적 벤치마크 대비 보정(calibration)을 최대 29.2%까지, 최신(state of the art) 대비 최대 11.1%까지 개선한다.
GAND 설명: 성별 모호 자연 데이터 및 대조적 속성 분석 리소스
Explaining GAND: A Resource on Gender-Ambiguous Natural Data & Contrastive Attribution
기계 번역(MT) 시스템은 여전히 성별 편향 번역을 생성한다. 자기 표현이 매우 중요한 시대에, 기본 동작과 고정관념에 기반한 오역은 이러한 시스템 사용자에게 해를 끼칠 수 있다. 명확한 성별 단서가 없을 때 이러한 시스템이 성별을 어떻게 번역하는지 더 잘 이해하려면, 성별 모호 시나리오를 자연스럽게 반영하는 벤치마킹 리소스가 필요하다. 이를 위해 우리는 GAND를 제시한다. GAND는 영어 원문 문장으로 구성된 MT용 성별 모호 자연 데이터 벤치마킹 리소스로, 번역에서 문맥 단서가 성별에 미치는 영향을 분석하도록 특별히 설계되었다. 우리는 GAND를 활용하여 해석 가능성 분석을 수행한다: GAND의 부분집합을 두 개의 문법적 성별 언어로 번역하고, 이를 수작업으로 작성한 대조적 번역으로 확장한다. 이어진 특징 기여도(feature attribution) 분석을 통해, 대상 번역에서 모호한 지시 대상 엔티티의 성별 번역에 영향을 미치는 문맥 속 원문 단어를 밝혀낸다.
근시 예방 및 관리 3.0: 인공지능 기반 위험 계층화, 선제적 모니터링 및 개인 맞춤형 개입
Myopia Prevention and Control 3.0: Artificial Intelligence--Driven Risk Stratification, Proactive Monitoring, and Personalized Intervention
인공지능(AI), 디지털 센싱, 유비쿼터스 컴퓨팅의 수렴은 근시 예방을 반응적이고 인구 기반 모델에서 선제적이고 정밀 지향적 모델로 전환할 전례 없는 기회를 만들었다. 2050년까지 전 세계 인구의 절반이 근시가 될 것이라는 증거에도 불구하고, 기존 접근법—학교 기반 시력 검사(1.0 단계)와 근거 기반 위험 요인 관리(2.0 단계)—는 불충분한 것으로 입증되었다. 우리는 세 가지 상호 연결된 영역에 걸친 AI 통합으로 정의되며 폐쇄 루프 파이프라인을 형성하는 근시 예방 및 관리 3.0의 등장을 검토한다: (1) 다중모달 데이터에 대한 머신러닝을 통해 개인 수준의 위험을 예측하는 AI 기반 위험 계층화; (2) 웨어러블, 스마트폰, 학교 검사 네트워크를 통한 AI 기반 선제적 모니터링; (3) 폐쇄 루프 피드백을 갖춘 AI 기반 개인 맞춤형 개입. 우리는 각 단계에 걸친 증거를 비판적으로 평가하고, 데이터 품질, 모델 검증, 윤리, 형평성의 과제를 논의하며, 다중모달 파운데이션 모델, 디지털 트윈, 인과 머신러닝을 포함한 향후 방향을 개괄한다.
Natural Language Autoencoder를 이용한 Qwen2.5-7B의 잠재적 콜롬비아 정체성 추론 프로빙
Probing Latent Colombian Identity Inferences in Qwen2.5-7B with Natural Language Autoencoders
대규모 언어 모델(LLM)은 해당 속성이 명시적으로 진술되지 않은 경우에도 미묘한 언어적 단서로부터 인구통계학적 속성을 추론할 수 있다. 본 파일럿 연구는 Qwen2.5-7B-Instruct가 콜롬비아 스페인어 및 영어 프롬프트를 처리할 때 콜롬비아 정체성, 사회경제적 지위, 또는 고정관념 관련 정보를 내부적으로 표상하는지 조사한다. 우리는 프롬프트당 네 가지 위치 사분위(positional quartile)에 걸쳐 20번째 층의 잔차 스트림(residual-stream) 활성화를 언어화하기 위해 Natural Language Autoencoders(NLA)를 사용한다. 우리 데이터셋은 명시적 콜롬비아 단서, 암시적 콜롬비아 단서, 중립 통제를 아우르는 15쌍의 매칭된 스페인어-영어 쌍으로 구성된 30개의 프롬프트를 포함한다. 우리는 통계적으로 검정력이 충분한 효과보다는 기술적 비율과 정성적 증거를 보고하며, 모델 출력에서 언어화되기 전에 잠재적 국적 또는 고정관념 표상이 나타나는지에 초점을 맞춘다. 본 연구는 활성화 수준의 해석 가능성(interpretability)과 소외된 스페인어 변종(varieties)에 대한 바이어스 평가를 연결한다.
MAGE-Vein: 손가락 정맥 이미지 기반 다중 인스턴스 연령·성별 추정
MAGE-Vein: Multi-Instance Age and Gender Estimation from Finger Vein Images
손가락 정맥 이미지를 이용한 연령 추정은 공개 데이터셋의 심각한 인구통계학적 편향과 성별과 같은 생리학적 교란 요인으로 인해 실용적이지 않다고 널리 여겨져 왔다. 이러한 한계를 극복하기 위해, 우리는 새로운 다중 인스턴스, 다중 과제 학습(multi-task learning) 프레임워크인 MAGE-Vein을 제안한다. 우리의 접근법은 세 손가락의 하이브리드 특징 수준(feature-level) 융합을 통해 견고한 구조적 노화 징후를 추출하여 국소 영상 노이즈를 효과적으로 억제한다. 또한 성별 분류를 동시에 최적화함으로써 네트워크가 성별 특이적 혈관 변이를 효과적으로 제거하도록 유도한다. 인구통계학적으로 균형 잡힌 402명의 피험자 데이터셋에서 평가한 결과, MAGE-Vein은 평균 절대 오차 6.12년과 상관계수 0.880을 달성한다. 우리의 결과는 손가락 정맥 모달리티의 한계에 관한 기존 합의를 뒤집을 뿐만 아니라, 이전 추정 실패가 주로 편향된 공개 데이터셋에서 기인한 인공물이었음을 보여준다. 코드는 https://github.com/gsisaoki/MAGE-Vein 에서 제공된다.
확산 모델에서 반사실적 추론을 통한 희귀 개념 생성
Rare Concept Generation via Counterfactual Inference in Diffusion Models
희귀 개념 생성은 이례적인 속성을 가진 객체를 설명하는 텍스트 프롬프트를 조건으로 맞춤형 이미지를 합성하는 작업에 초점을 둔다. 기존 연구들은 생성된 이미지를 희귀 개념과 정렬하는 데 실패하여, 속성 렌더링 오류나 개념 구성의 불일치를 초래했다. 우리가 관찰한 바, 이러한 실패는 확산 모델의 학습 단계에 내재된 상식 바이어스에서 비롯되며, 여기서 객체는 일반적인 속성과 강하게 연관되어 희귀 개념을 생성할 때 이러한 연관을 깨기 어렵다. 이러한 과제를 해결하기 위해 본 논문은 CI-Diff라고 명명한 새로운 반사실적 추론 기반 확산 접근법을 제안한다. CI-Diff는 모델의 내재된 상식 바이어스 간섭을 차단하고 자연 직접 효과(Natural Direct Effect)를 활용해 희귀 개념의 텍스트 프롬프트가 이미지 생성에 미치는 독립적 영향을 포착하여, 이례적인 속성을 희귀 개념으로부터 분리한다. 이를 위해 분류기 없는 가이던스(classifier-free guidance) 메커니즘을 재공식화하여 비전형적 속성을 강조한다. 우리가 아는 한, 희귀 개념 생성 과제에 인과 추론(causal inference)을 도입한 최초의 연구다. RareBench 벤치마크에서의 광범위한 실험을 통해 CI-Diff가 최신 확산 모델 대비 우수함을 검증했다. 코드는 https://github.com/200204jzy/CI-Diff에서 확인할 수 있다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.