Insights into Fairness through Trust: Multi-scale Trust Quantification for Financial Deep Learning
원문 초록
The success of deep learning in recent years have led to a significant increase in interest and prevalence for its adoption to tackle financial services tasks. One particular question that often arises as a barrier to adopting deep learning for financial services is whether the developed financial deep learning models are fair in their predictions, particularly in light of strong governance and regulatory compliance requirements in the financial services industry. A fundamental aspect of fairness that has not been explored in financial deep learning is the concept of trust, whose variations may point to an egocentric view of fairness and thus provide insights into the fairness of models. In this study we explore the feasibility and utility of a multi-scale trust quantification strategy to gain insights into the fairness of a financial deep learning model, particularly under different scenarios at different scales. More specifically, we conduct multi-scale trust quantification on a deep neural network for the purpose of credit card default prediction to study: 1) the overall trustworthiness of the model 2) the trust level under all possible prediction-truth relationships, 3) the trust level across the spectrum of possible predictions, 4) the trust level across different demographic groups (e.g., age, gender, and education), and 5) distribution of overall trust for an individual prediction scenario. The insights for this proof-of-concept study demonstrate that such a multi-scale trust quantification strategy may be helpful for data scientists and regulators in financial services as part of the verification and certification of financial deep learning solutions to gain insights into fairness and trust of these solutions.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
언어-에너지 격차: 다국어 LLM 추론의 에너지 비용 측정
The Language-Energy Divide: Measuring Energy Costs of Multilingual LLM Inference
대규모 언어 모델(LLM)은 다국어 환경에서 점점 더 배포되고 있지만, 다양한 언어에 걸쳐 이러한 모델을 서빙할 때의 에너지 비용은 여전히 잘 이해되지 않고 있다. ML.Energy 프레임워크(Chung et al., 2026)를 사용하여 언어 간 추론 에너지 소비에 대한 체계적인 연구를 제시한다. 우리는 뚜렷한 격차를 발견한다: 출력 토큰당 에너지 소비는 언어에 따라 최대 8.3배까지 달라지며, 고정된 요청 집합에 대한 총 에너지는 가장 저렴한 언어(영어, 17.6 kJ)와 가장 비싼 언어(파슈토어, 3,147 kJ) 사이에서 최대 179배까지 차이 난다. 분석 결과, 이러한 격차는 두 가지 복합 요인에 의해 발생한다: (1) 복잡하거나 희귀한 문자 체계를 사용하는 언어에서 토큰당 에너지 비용이 더 높고, (2) 저자원 언어에서 더 많은 토큰이 생성된다. 더 나아가, 이중 비용+성능 페널티를 발견한다: 에너지 발자국이 가장 큰 언어일수록 작업 정확도도 가장 낮은 경향이 있다. 에너지 격차는 모델, 하드웨어, 작업 전반에 걸쳐 지속되며, 이는 다국어 LLM 배포에서 구조적인 에너지 불평등이 있음을 시사한다. 마지막으로, 커뮤니티가 에너지를 1급 평가 축으로 취급하고, 보고 체크리스트와 모델 카드에 이를 포함하도록 확장하며, 더 나은 에너지 효율을 위한 배포 측면의 완화 조치를 채택할 것을 권고한다.
Decomposing Yes-No Bias in LLM Moral Judgment: Stance, Position, Word, and Verdict
영향력 있는 다원주의적 정렬 연구를 위한 로드맵
A Roadmap to Impactful Pluralistic Alignment Research
공정한 자기지도 학습을 위한 편향 없는 Open World 정규화
Unbiased Open World Regularization for Fair Self-Supervised Learning
텍스트-이미지 생성에서 대표 다양성을 위한 다축 Max@K 강화학습
Multi-Axis Max@K Reinforcement Learning for Representative Diversity in Text-to-Image Generation
미관측 교란 변수에 강건한 위험 점수 학습
Learning Risk Scores Robust to Unobserved Confounders
미관측 교란의 영향을 받는 역사적 관찰 데이터로부터, 희소 자원이나 개입 대상 개인의 우선순위를 정하기 위한 위험 점수를 학습하는 문제를 다룬다. 누가 희소 자원을 받을지에 대한 결정은 설문 응답과 같이 기록된 특성에 기반한 위험 점수에 의해 종종 안내된다. 이러한 위험 점수는 개인의 특성, 배분 결정, 결과에 대한 역사적 기록인 관찰 데이터로부터 직접 학습되는 경우가 점점 늘고 있다. 역사적 배분 정책이 도입한 바이어스를 보정하는 역 성향 가중치(inverse propensity weighting, IPW)와 같은 표준 방법은, 역사적 결정 과정이 기록된 특성으로 완전히 설명될 수 있다면 정확한 위험 점수를 학습하는 데 사용될 수 있다. 그러나 실무에서는 역사적 결정이 종종 기록되지 않은 정보에 의존하여, 학습된 위험 점수가 과거 우선순위를 이끌었던 기록되지 않은 상황을 가진 개인들을 정확히 체계적으로 과소 우선순위화하게 만든다. IPW를 기반으로, 이러한 종류의 미관측 교란에 강건한 위험 점수를 학습하는 방법을 제안한다. 미관측 교란 하에서는 성향 가중치를 신뢰할 수 있게 추정할 수 없으므로, 대신 관측 가능한 데이터와 교란 정도에 대한 도메인 정보 기반 추정치로 결정되는 불확실성 집합에 속하는 것으로 취급하며, 인과 추론(causal inference)의 민감도 분석(sensitivity analysis)과 Wasserstein 분포적 강건 최적화(Wasserstein distributionally robust optimization)를 결합한다. 그 결과 강건 위험 점수 학습 문제는 표본 기반 근사를 허용하며, 이를 기성 솔버와 호환되는 지수 원뿔 프로그램(exponential cone program)으로 재공식화한다. UCI Machine Learning Repository의 데이터셋에서 파생된 반합성(semi-synthetic) 데이터에서 접근법의 효과를 입증한다. 제안 방법은 다른 지표를 손상하지 않으면서, 전통적 벤치마크 대비 보정(calibration)을 최대 29.2%까지, 최신(state of the art) 대비 최대 11.1%까지 개선한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.