불확실성을 인지하는 설명 방법들은 동일한 예측에 대해 종종 여러 대안을 생성합니다. 이들 중에서 선택하려면 예측 신뢰도, 불확실성, 그리고 애플리케이션의 제약 조건 간의 균형을 맞추는 정책이 필요합니다. 본 논문은 생성된 고정된 설명 집합에 이러한 정책을 적용하기 위한 프레임워크를 제시합니다. 후보들은 불확실성 변화, 예측 방향, 그리고 가능한 경우 결정 경계(decision boundary)에 대한 구간 위치로 특성화됩니다. 이 프레임워크는 이러한 속성들을 적격성 규칙, 선택적 양방향 파레토 스크리닝(bidirectional Pareto screening), 정책 인지형 순위 매기기와 결합합니다. 가상의 전립선암 예시를 통해 서로 다른 설명 목적이 동일한 후보 집합에서 어떻게 서로 다른 선택으로 이어지는지 보여줍니다. 우리는 분류(classification), 임계값 기반 회귀, 일반 회귀를 위한 Calibrated Explanations를 통해 이 프레임워크를 구체화합니다. 41개 벤치마크 데이터셋에 걸쳐 평균 후보 수는 단일 특징(feature) 설명의 경우 11.57개에서 21.75개, 결합(conjunction)이 포함된 경우 29.48개에서 69.53개에 이릅니다. 동일 가중치(equal-weight) 정책과 신뢰도 전용 정책은 동일한 신뢰도 방향을 선호하면서도 평균 28.7%의 선택 불일치율을 보입니다. 보조적인 δ-CLUE 실험은 두 번째 생성기와의 활용 가능성을 입증합니다. 선택 정책을 명시화함으로써, 본 프레임워크는 애플리케이션이 의도된 용도에 따라 설명을 비교하고 우선순위를 정할 수 있도록 합니다.
PotatoGANs: Utilizing Generative Adversarial Networks, Instance Segmentation, and Explainable AI for Enhanced Potato Disease Identification and Classification
심층 학습(deep learning) 기법을 이용한 농업 병해 분할의 자동화는 다양한 응용 사례를 낳았다. 그러나 이러한 응용들은 새로운 환경에 적용될 때 과적합(overfitting) 문제에 자주 직면하여 분할 성능이 저하되는 어려움을 겪는다. 감자 농업에서는 병해가 수확량에 큰 영향을 미치므로, 신속하고 정확한 병해 식별이 농업 경제에 매우 중요하다. 회전, 반전, 이동과 같은 전통적인 데이터 증강(data augmentation) 방법은 한계가 있으며 강력한 일반화 결과를 제공하지 못하는 경우가 많다. 이러한 문제를 해결하기 위해 본 연구에서는 PotatoGANs이라 명명한 새로운 접근 방식을 제안한다. 이 새로운 데이터 증강 방법에서는 두 가지 유형의 생성적 적대 신경망(GAN)을 활용하여 건강한 감자 이미지로부터 합성 감자 병해 이미지를 생성한다. 이 접근 방식은 데이터셋(dataset)을 확장할 뿐만 아니라 다양성을 추가함으로써 모델(model) 일반화 향상에 기여한다. Inception score를 측정 지표로 사용한 실험 결과, PotatoGANs이 생성한 이미지의 우수한 품질과 사실성이 입증되었으며, 실제 병해 이미지와 밀접하게 유사한 이미지를 생성하는 능력이 강조되었다. CycleGAN 모델은 Pix2Pix GAN 모델보다 이미지 품질 면에서 우수한 성능을 보였는데, black scurf와 common scab에 대해 각각 1.2001과 1.0900의 더 높은 Inception score(IS)를 달성한 것이 그 근거이다. 이러한 합성 데이터는 대규모 신경망의 학습(training)을 크게 향상시킬 수 있다. 또한 데이터 수집 비용을 줄이는 동시에 데이터 다양성과 일반화 능력을 향상시킨다. 본 연구는 감자 병해 분류(classification)를 위해 세 가지 그래디언트(gradient) 기반 설명 가능한 AI 알고리즘(GradCAM, GradCAM++, ScoreCAM)을 세 가지 서로 다른 CNN 아키텍처(DenseNet169, ResNet152 V2, InceptionResNet V2)와 결합함으로써 해석 가능성을 향상시킨다.