많은 머신러닝 문제에서 근본적으로 서로 다른 내부 논리에 의존하면서도 거의 동일한 예측 성능을 달성하는 여러 모델이 존재할 수 있습니다. 그러나 표준적인 학습(training) 절차는 단일 모델만을 생성하므로, 다운스트림 요구에 더 적합할 수 있는 대안들을 탐색할 실질적인 방법을 제공하지 못합니다. 이처럼 동등하게 정확한 모델들의 집합을 라쇼몽 집합(Rashomon set)이라고 합니다. 라쇼몽 집합을 탐색하는 것은 중간 단계의 인간이 이해할 수 있는 개념을 통해 예측을 수행하여 컴퓨터 비전(CV) 분야에서 널리 사용되는 개념 병목 모델(Concept Bottleneck Models, CBMs)과 같이 크고 복잡한 가설 공간에서 특히 어렵습니다. 본 논문에서는 CBM의 라쇼몽 집합을 효율적으로 탐색하는 방법을 제시합니다. 제안하는 프레임워크는 특화된 병렬 매개변수 효율적 적응 모듈을 체크포인팅 기법 및 개념 다양성 목표와 결합하여, 단 한 번의 학습 과정에서 동등하게 정확한 다수의 CBM을 생성합니다. 실증적 결과는 제안하는 방법이 훨씬 적은 메모리를 사용하면서도 베이스라인보다 다양성이 더 뛰어난 모델들을 찾아냄을 보여줍니다. 나아가 이렇게 다양하면서도 정확한 CBM들에 접근할 수 있게 됨으로써 신뢰할 수 있는 모델 선택, 클래스 간 혼동 해소, 의사결정 시 신뢰성 있는 기권(abstention)이 가능해짐을 입증합니다.
머신러닝 모델을 설명하는 일은 의사결정과 소비자 신뢰 측면에서 점점 더 중요해지고 있으나, 기존의 설명 가능한 AI(XAI) 방법들은 정확도-설명가능성 트레이드오프라는 고질적인 문제를 안고 있다고 널리 알려져 있다. 우리는 이 트레이드오프가 근본적인 것이 아니라, 설명과 예측을 별개의 목표로 취급한 데서 비롯된 부산물임을 주장한다. 둘을 적절히 결합하면 상호 보완적이 되어, 모델이 스스로를 설명할 수 있도록 갖추는 것이 정확도를 저하시키는 것이 아니라 오히려 향상시킨다. 우리는 라쇼몽 설명(Rashomon Explanation) 패러다임을 제안하는데, 이는 단일 설명 대신 충실하고 예측을 안내하는 설명들의 집합을 구성하며, 이 집합이 일반적으로 비어 있지 않음을 증명하고 설명 충실도가 그것이 안내하는 모델의 성능에 상한을 부여함을 증명한다. 이 집합을 탐색하기 위해 우리는 RashomonLLM을 제안한다. 이는 설명-예측-반성(Explanation-Prediction-Reflection) 에이전트 워크플로우로, 자연어로 설명을 생성하면서 예측과 반복적으로 정렬시키며, 이것이 수렴하고 전체 집합을 복원함을 증명한다. 대규모 라이브 스트리밍 로그에 대한 고객 이탈 분류, 임상 생존 회귀, 산업용 클릭률 예측 전반에 걸쳐, RashomonLLM은 정확도와 설명 품질 모두에서 최신 예측 및 XAI 베이스라인을 크게 능가하며, 이 성능 향상은 설명 충실도에 의해 주도되고 분포 이동, 시간적 분할, 시드에 대해 강건하다. 따라서 우리의 프레임워크는 비즈니스 성능을 향상시키는 동시에 소비자 신뢰의 토대를 마련한다.
라쇼몬 집합(Rashomon set) 내 모델들이 유사한 정확도를 가지면서도 개별 예측에서 불일치하는 예측 다중성(predictive multiplicity) 문제를 해결하기 위해, 이상치 보정(outlier correction), 지역 패칭(local patching), 쌍별 조정(pairwise reconciliation)의 세 가지 접근법을 제안한다. 여러 데이터셋 실험에서 제안 방법들은 경쟁력 있는 정확도를 유지하면서 불일치 지표를 크게 줄였으며, 조정된 예측은 단일 해석 가능한 모델로 지식 증류(distillation)하여 실세계에 배포할 수 있다.