금융 및 의료와 같은 고위험 영역에 인공지능(AI)을 배포하려면 공정하면서도 투명한 모델이 필수적입니다. EU의 AI 법(AI Act)을 비롯한 규제 프레임워크는 바이어스(bias) 완화를 의무화하고 있지만, 바이어스의 정의에 대해서는 의도적으로 모호한 태도를 취하고 있습니다. 기존 연구와 마찬가지로, 본 논문에서는 진정한 공정성을 달성하기 위해 보호 대상 집단의 교차점(intersection)에서 발생하는 바이어스를 다루어야 한다고 주장합니다. 이에 따라 혼합 정수 최적화(Mixed-Integer Optimization, MIO)를 활용하여 교차성 관점에서 공정하고 본질적으로 해석 가능한 분류기를 학습하는 통합 프레임워크를 제안합니다. 또한 가장 불공정한 하위 집단을 탐지하는 데 있어 두 가지 교차성 공정성 측정 지표(MSD 및 SPSF)의 동등성을 증명하고, 제안한 MIO 기반 알고리즘이 바이어스를 찾아내는 성능을 향상시킴을 실증적으로 보여줍니다. 교차성 바이어스를 허용 가능한 임계값 아래로 제한하는 고성능 해석 가능 분류기를 학습함으로써 규제 대상 산업 및 그 외 분야를 위한 견고한 솔루션을 제공합니다.
대규모 언어 모델(LLM)은 관심 구인(construct)에 해당하는 교육학적 주석의 신속한 배포를 가능하게 했으며, 대화형 데이터셋(dataset)에서 분류를 생성하기 위한 자연어 인터페이스를 제공한다. 그러나 LLM 추론의 불투명한 특성 때문에, 모델(model)이 발화에 대해 특정 레이블을 선택한 이유에 대한 검증 가능하고 기계적인(mechanistic) 통찰을 얻을 수 없다. 우리는 EduBehaviors 프레임워크를 제안한다. 이는 해석 가능하고 확장 가능한(scalable) 교육 데이터 주석 접근법으로, LLM을 사용해 많은 관심 구인과 관련된 반복적 관측 가능 행동(observable behaviors)을 측정한 뒤, 이러한 관측 가능 행동을 바탕으로 해당 구인에 대한 분류기(classifier)를 학습한다. TalkMoves 데이터셋에서 프레임워크를 평가하며 Teacher TalkMoves 레이블을 예측한다. 최적 구성은 macro-F1 0.673과 Cohen's kappa 0.688을 달성하여 직접 프롬프팅(direct prompting) 접근법과 경쟁력 있는 성능을 보였다. 또한 연구자가 자체 데이터에서 EduBehaviors 프레임워크를 운영적으로 구현할 수 있게 하는 두 가지 도구인 EduBehaviors Toolkit을 공개한다.
프로토타입 기반 신경망은 소수의 부분 프로토타입에 예측을 그라운딩하여 내재적 해석 가능성을 제공하는 것을 목표로 한다. 그러나 최신 비전 백본은 일반적으로 정규화된 방향성 임베딩 공간에서 동작하며, 각 의미적 부분은 상당한 클래스 내 변동성을 보인다. 그 결과, 점 프로토타입은 종종 중복되거나 불안정해져 설명 품질과 견고성 모두를 저하시킨다. 우리는 vMFProto를 제안한다. 이는 각 클래스를 초구면상의 von Mises-Fisher 성분 혼합으로 모델링하는 분포적 부분-프로토타입 프레임워크이다. 각 프로토타입은 부분별 변동성을 포착하기 위해 고유의 집중도를 학습하며, 엔트로피 최적 수송(entropic optimal transport, OT)을 사용하여 구조화된 패치-프로토타입 할당을 얻는다. 2단계 학습 일정은 OT 기반 프로토타입 발견 이후, 패치 수준 지식 증류와 분포 인식 다양성 정규화를 통한 end-to-end 정교화를 수행한다. 고정된 DINO 백본을 사용한 실험에서 vMFProto는 CUB-200-2011에서 최고 수준의 일관성과 구별성을 달성하고, CUB, Stanford Dogs, Stanford Cars 전반에서 경쟁력 있는 분류 정확도를 보인다. 정성적 결과는 vMFProto가 국소화되고 비중복적인 부분 증거를 생성함을 확인한다.