PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.29346v1cs.LG

불투명한 과학적 모델의 사후 설명이 가진 신뢰성, 충실성, 그리고 그 한계

Reliability, Faithfulness, and the Limits of Post-hoc Explanations of Opaque Scientific Models

사후 설명(post-hoc explanation) 방법이 과학적 머신러닝 모델 해석에 널리 쓰이지만, 신뢰성(reliability)이 모델 예측과 현상의 결과 일치를 확인하고 충실성(faithfulness)이 설명과 모델의 일치를 확인할 뿐, 둘 다 모델이 현상의 실제 작동 방식대로 동작하는지는 검증하지 못한다는 한계를 논증한다. 이 두 평가의 합성만으로는 현상의 인과적·기계적 구조에 관한 주장을 정당화할 수 없으며, 이는 신뢰성과 충실성을 아무리 높여도 구조적으로 해소되지 않는 간극임을 형식적으로 보인다.