금융 및 의료와 같은 고위험 영역에 인공지능(AI)을 배포하려면 공정하면서도 투명한 모델이 필수적입니다. EU의 AI 법(AI Act)을 비롯한 규제 프레임워크는 바이어스(bias) 완화를 의무화하고 있지만, 바이어스의 정의에 대해서는 의도적으로 모호한 태도를 취하고 있습니다. 기존 연구와 마찬가지로, 본 논문에서는 진정한 공정성을 달성하기 위해 보호 대상 집단의 교차점(intersection)에서 발생하는 바이어스를 다루어야 한다고 주장합니다. 이에 따라 혼합 정수 최적화(Mixed-Integer Optimization, MIO)를 활용하여 교차성 관점에서 공정하고 본질적으로 해석 가능한 분류기를 학습하는 통합 프레임워크를 제안합니다. 또한 가장 불공정한 하위 집단을 탐지하는 데 있어 두 가지 교차성 공정성 측정 지표(MSD 및 SPSF)의 동등성을 증명하고, 제안한 MIO 기반 알고리즘이 바이어스를 찾아내는 성능을 향상시킴을 실증적으로 보여줍니다. 교차성 바이어스를 허용 가능한 임계값 아래로 제한하는 고성능 해석 가능 분류기를 학습함으로써 규제 대상 산업 및 그 외 분야를 위한 견고한 솔루션을 제공합니다.
전자 의료 기록(Electronic Healthcare Records, EHR)을 활용한 자동화된 임상 의사결정에서의 바이어스는 환자 치료 및 치료 결과에 상당한 격차를 초래한다. 기존 접근법은 주로 단일 속성에서 기인하는 바이어스 완화 전략에 초점을 맞춰, 인종, 성별, 민족 등 다양한 인구통계학적 교차로 형성된 교차성 하위군(intersectional subgroups)을 간과해 왔다. 단일 속성 완화 전략을 교차성 하위군에 그대로 적용하는 것은 이러 하위군 간 분포와 바이어스 패턴의 차이로 인해 통계적으로 무의미해진다. EHR의 다중모달적 특성—텍스트, 시계열, 표 형식 데이터, 이벤트, 이미지 등 다양한 출처의 데이터 조합—은 소수 집단에 대한 영향이 모달리티마다 달라질 수 있어 복잡성을 한 층 더 더한다. 본 논문에서는 MIMIC-Eye1과 MIMIC-IV ED 등 광범위한 다중모달 데이터셋을 구축하여 예측에서 잠재적 교차성 바이어스를 발굴하는 초기 단계를 밟고, 교차성 하위군 수준에서의 완화를 제안한다. 우리는 다중모달 소스에서 통합 텍스트 표현을 학습하고, 사전학습된 임상 언어 모델(LM)인 MedBERT, Clinical BERT, Clinical BioBERT의 강력한 능력을 활용하여 데이터셋에서 하위 작업(downstream tasks) 수행·벤치마킹과 바이어스 평가를 수행한다. 실험 결과, 제안한 하위군별 바이어스 완화는 서로 다른 데이터셋, 하위군, 임베딩(embedding)에서 견고하게 나타나, 다중모달 환경에서 교차성 바이어스를 해소하는 데 효과적임을 보여 준다.
알고리즘 공정성(algorithmic fairness) 방법론은 머신러닝 모델의 바이어스를 식별하고 완화하는 데 점점 더 많이 활용되고 있으나, 대부분의 접근법은 단일 인구통계 축을 따라 독립적으로 평가된다. 이는 공정성 전략 선택에 대한 실질적인 지침을 제한하는데, 실제로는 교차적(intersectional) 하위 집단 전반에 걸쳐, 그리고 모델링 생애주기의 여러 단계에 걸쳐 불균형이 발생할 수 있다. 본 연구에서는 전처리(preprocessing), 처리 중(inprocessing), 후처리(postprocessing) 단계에서 공정성 완화 전략을 개별적으로 또는 조합하여 체계적으로 평가하기 위한 툴킷인 FairSelect를 제시한다. FairSelect는 다양한 모델 아키텍처, 교차적 하위 집단 평가, 기준선·단일 방법·다단계 구성에 걸친 공정성-유용성 트레이드오프 비교를 지원한다. 이 프레임워크는 특정 바이어스 메커니즘을 표현하도록 설계된 합성 임상 데이터셋과 심방세동 환자의 2년 뇌졸중 위험 예측에 관한 실제 세계 복제 연구를 통해 검증되었다. 합성 실험에서는 목표 지향적 공정성 방법이 의도한 하위 집단 불균형을 전반적으로 감소시켰으며, 결합 전략은 적당한 유용성 트레이드오프와 함께 더 큰 평균 공정성 향상을 이끌어냈다. 임상 예측 과제에서는 완화 효과가 매우 가변적이었는데, 일부 조합은 공정성과 예측 성능을 모두 향상시킨 반면 다른 조합은 효과가 없거나 역효과를 낳았다. 이러한 결과는 공정성 개입이 비가산적이고 맥락 의존적인 방식으로 상호작용함을 보여준다. FairSelect는 임상 머신러닝에서 모델 성능을 보존하면서 하위 집단 형평성을 향상시키는 공정성 전략을 체계적으로 식별하기 위한 실용적 프레임워크를 제공한다.