Agentic Explainable Artificial Intelligence (Agentic XAI) Approach To Explore Better Explanation: A Case Study in Decision Support for Rice Cultivation in Japan
설명 가능한 인공지능(XAI)은 설명변수와 반응변수의 관계를 밝혀내지만, 비전문가에게 XAI 결과물을 전달하는 것은 여전히 어려워 AI 기반 예측에 대한 신뢰를 제한합니다. 대규모 언어 모델(LLM)은 기술적 설명을 이해하기 쉬운 서사로 변환할 수 있으나, 자율적인 LLM 에이전트(agent)에 의한 XAI 설명의 반복적 정제는 아직 탐색되지 않았습니다. 본 연구는 SHAP(SHapley Additive exPlanations)과 멀티모달 LLM에 의한 반복적 정제를 결합한 에이전틱 XAI 프레임워크를 제안하고, 이를 일본의 28개 논에서 수집된 벼 수확량 데이터에 농업 추천 시스템으로 시험합니다. 에이전트는 SHAP 결과로부터 11차례의 정제 라운드(라운드 0-10)에 걸쳐 추가적인 분석을 탐색했습니다. 작물학자(n = 12)와 LLM 평가자(n = 14)는 구체성(Specificity), 명확성(Clarity), 간결성(Conciseness), 실용성(Practicality), 맥락적 적합성(Contextual Relevance), 비용 고려(Cost Consideration), 작물학적 신뢰성(Crop Science Credibility)의 7개 기준에 따라 모든 라운드를 채점했습니다. 두 그룹 모두 정제를 통해 라운드 0 대비 평균 점수가 30-33% 향상되어 라운드 3-4에서 정점에 달한 후 품질이 저하되었으며, 작물학자의 경우 시작점 아래로 떨어졌음을 확인했습니다. 따라서 정제에는 전략적인 조기 종료(early stopping)가 필요하며, 이는 단조로운 개선이라는 가정을 반박합니다. 기준 수준의 궤적은 바이어스-분산 트레이드오프(bias-variance trade-off)를 나타냅니다. 초기 라운드는 구체성이 부족했던(바이어스) 반면, 과도한 반복(iteration)은 간결성을 훼손하고 근거 없는 경제적 추론을 통해 비용 고려를 증가시켰습니다(분산). LLM 평가자는 모든 기준에서 1.4-2.3점씩 과대평가했으나 전문가들의 라운드 순위는 대체로 유지하였으므로(Spearman $\rho$ = 0.58-0.90), 선별된 LLM 평가자는 신뢰할 수 없는 절대 점수에도 불구하고 품질 정점을 지목할 수 있습니다. 신뢰할 수 있는 에이전틱 XAI는 또한 LLM 평가자에 대한 전문가 기반의 선별과 투명하고 검증 가능한 정제 기록을 필요로 합니다.
범용 대규모 언어 모델(LLM)은 개방형 질의응답, 정보 추출, 텍스트 생성에서 강력한 능력을 입증했다. 그러나 농업 응용은 도메인 특화적이고, 지역 의존적이며, 시간에 민감하고, 안전이 중요하다. 데이터 거버넌스, 전문가 평가, 증거 제약이 없으면 농업 어시스턴트는 작물 병해, 농약 사용, 시비, 정책 해석에 대해 신뢰할 수 없는 조언을 생성할 수 있다. 검증되지 않은 시뮬레이션 수치를 실제 실험 결과로 제시하는 것을 피하기 위해, 본 논문은 실제 학습 실행과 전문가 평가를 통해 산출되지 않은 모델 성능 주장을 일절 보고하지 않는다. 대신, 우리는 범용 LLM을 농업 과제에 적응시키기 위한 재현 가능하고 감사 가능한 프레임워크인 AgriTune-R을 제안한다. 이 프레임워크는 공개적으로 검증 가능한 Qwen3-8B 모델을 권장 기반 모델로 선택하고, 농업 데이터 거버넌스, 인스트럭션 구성, LoRA/QLoRA 매개변수 효율적 미세조정, 검색-증강 생성(RAG), 전문가 평가, 고위험 질문에 대한 안전 제어를 통합한다. 기여 사항은 다음과 같다: (1) 농업 LLM 적응을 위한 구조화된 워크플로우; (2) 농업 지식 질의응답, 병해충 상담, 재배 관리, 정책 설명에 대한 평가 프로토콜; (3) 사실성, 안전성, 증거 일관성, 불확실성 표현을 결합한 전문가 검토 루브릭; (4) 프로토콜 설계와 실증적 결론 간의 명확한 분리로, 향후 실증 연구를 위한 실행 가능한 기준선 제공.
농업 의사결정은 이중의 과제에 직면해 있다. 글로벌 식량 안보를 충족하기 위해 높은 수확량을 유지하면서, 비료 손실과 제초제, 살충제, 살균제 등 기타 농화학제 사용을 포함한 투입물 사용의 환경적 영향을 줄여야 한다. 질소 투입은 이 긴장의 핵심이다. 작물 성장에 필수적이지만 온실가스 배출, 영양분 유출, 그리고 증가하는 생산 비용의 주요 원인이기도 하다. 이러한 상호 연계된 압력을 해결하려면 통계적으로 엄밀하고, 경제적으로 지속 가능하며, 실무자에게 해석 가능한 적응형 의사결정 지원 도구가 필요하다. 우리는 불확실성 하에서의 적응형 비료 관리를 위한 프레임워크로 비선형 모델 기반 밴딧 알고리즘을 개발한다. 고전적인 기계론적 수확-반응 모델에 기반하여, 우리 접근법은 알고리즘의 탐험-활용 전략을 최대 수확량과 영양 효율과 같은 해석 가능한 생물학적 과정에 직접 연결한다. 이러한 그라운딩(grounding)은 실무자에게 권장 사항을 투명하게 하면서 비용 효과적이고 지속 가능한 투입물 사용을 지원한다. 방법론적으로, 우리는 올바르게 명시된(well-specified) 비선형 경우에 대한 regret과 표본 복잡도(sample complexity) 결과를 확립하고, 명시 오류(misspecification) 하에서의 견고성을 검토하며, 이익 지향 시뮬레이션과 미국 중서부의 공개 다지점 옥수수 질소 실험을 대상으로 한 오프라인 리플레이 사례 연구를 통해 제안 방법을 평가한다. 결과는 생물학적으로 의미 있는 기계론적 구조를 통합하면 증거가 축적될수록 더 빠른 학습과 더 높은 이익을 가능하게 하며, 유연한 비모수 기준선이 통합(pooled) 및 이질적(heterogeneous) 설정에서 경쟁력 있는 대안을 제공함을 보여준다. 우리의 발견은 해석 가능하고 불확실성을 인식하는 순차 의사결정 규칙이 경제적으로 지속 가능한 비료 권장을 지원하고 보다 효율적인 농업 투입물 사용에 기여할 수 있는 방식을 보여준다.
과일 부패는 농업에서 중대한 문제로, 상당한 경제적 손실을 초래한다. 이를 해결하기 위해 본 연구는 이미지 처리와 심층 학습을 결합한 하이브리드 접근법을 도입하여 과일 신선도를 평가한다. 우리는 0(완전히 신선)에서 100(완전히 부패)까지의 척도로 부패 정도를 정량화하는 이미지 처리 알고리즘을 개발했다. 이와 함께, 과일 이미지의 대규모 데이터셋을 사용하여 신선함 또는 부패 여부의 이진 분류를 수행하도록 합성곱 신경망(CNN)을 학습했다. 두 방법의 결과는 신선도 예측 정확도를 높이기 위해 로지스틱 회귀를 사용하여 통합했다. 이후 이 로지스틱 회귀 모델을 활용하여 이미지 처리 알고리즘이 백분율 출력을 기반으로 이진 분류를 제공할 수 있게 하였으며, 이를 통해 실시간 응용에서 CNN이 필요하지 않게 되었다. 높은 계산 자원을 요구하지 않는 본 접근법은 실시간 성능을 달성했으며, 사과와 오렌지로 구성된 데이터셋에서 90% 이상의 정확도로 검증되었다. 주요 한계는 과일이 흰색 또는 투명 배경 위에 분리되어 있어야 한다는 요구사항에 있으며, 이는 배경 제거를 자동화하기 위한 고급 세그멘테이션 모델을 향후 개선에 포함할 수 있음을 시사한다. 본 연구의 결과는 단순한 이미지 처리 기법과 머신러닝을 통합하여 농업 분야에 실용적인 해결책을 제공할 수 있는 잠재력을 보여준다.