PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2506.05014v3cs.LG

합리적인 개념 병목 모델을 향하여

Towards Reasonable Concept Bottleneck Models

본 논문에서는 개념 병목 모델(CBM) 설계를 위한 새롭고 유연하며 효율적인 프레임워크를 제안합니다. 이 프레임워크를 통해 실무자는 예측 시 모델의 추론 과정 내에서 개념-개념($C-C$) 및 개념-작업($C \to Y$) 관계에 대한 사전 지식과 신념을 명시적으로 인코딩하고 확장할 수 있습니다. 이를 통해 도출된 개념 추론 모델(CREAM)은 상호 배타성, 계층적 연관성 및 상관관계와 같은 임의 유형의 $C-C$ 관계뿐만 아니라 잠재적으로 희소한 $C \to Y$ 관계를 구조적으로 인코딩합니다. 또한 CREAM은 잠재적으로 불완전한 개념 집합을 보완하기 위해 정규화된 사이드 채널을 선택적으로 통합할 수 있어, 예측이 개념에 기반(concept-grounded)하도록 유도하는 동시에 경쟁력 있는 작업 성능을 달성합니다. 이러한 환경에서 CBM을 평가하기 위해, 예측이 사이드 채널에 부분적으로 의존할 때의 해석 가능성을 정량화하는 $C \to Y$ 무관 지표를 도입합니다. 실험을 통해 추가적인 계산 오버헤드 없이 CREAM 모델이 효율적인 개입을 지원하고 개념 누출(concept leakage)을 방지할 수 있으며, 개념이 누락된 상황에서도 블랙박스 수준의 성능을 달성함을 보입니다. 나아가 선택적 사이드 채널이 해석 가능성과 개입 가능성에 미치는 영향을 분석합니다. 중요한 점은, 사이드 채널 덕분에 제한된 수의 개념만 사용할 수 있는 시나리오에서도 CBM이 유효성을 유지할 수 있다는 것입니다.