AI가 AI를 설명할 수 있는가? 멀티모달 LLM 생성 설명이 XAI 시각화의 지각된 이해도와 지각된 신뢰에 미치는 영향
Can AI Help Explain AI? Effects of Multimodal LLM-Generated Explanations on Perceived Understanding and Perceived Trust in XAI Visualizations
한국어 초록
설명 가능한 인공지능(XAI)은 기계학습 모델을 이해할 수 있게 만드는 것을 목표로 하지만, 많은 XAI 시각화는 최종 사용자가 해석하기 여전히 어렵다. 본 연구에서는 멀티모달 LLM이 생성한 텍스트 설명으로 XAI 출력을 보강하면 지각된 이해도와 지각된 신뢰가 향상되는지 평가한다. 우리는 일곱 가지 의사결정 시나리오와 다섯 가지 XAI 기법에 걸쳐, LLM 생성 설명이 있는 경우와 없는 경우를 비교하는 사전 등록된 개체 내 실험($N = 128$)을 수행하였다. 설명은 지각된 이해도와 지각된 신뢰를 5점 척도에서 각각 0.35점과 0.26점 향상시켰다(둘 다 $p < .001$). 이러한 향상은 일곱 개 시나리오 모두에서 나타났고, 지역 설명과 전역 설명 간에 차이가 없었으며, XAI 사전 경험이 가장 적은 참가자에게서 가장 컸다. 매개 분석은 지각된 이해도를 통해 지각된 신뢰에 이르는 간접 효과가 있음을 보여 준다. 이러한 결과는 멀티모달 LLM이 전문가 집단을 넘어 XAI를 위한 유용한 해석 계층을 제공할 수 있음을 시사한다.
원문 초록
Explainable artificial intelligence (XAI) aims to make machine learning models understandable, yet many XAI visualizations remain difficult for end-users to interpret. Here, we evaluate whether augmenting XAI outputs with textual explanations from multimodal LLMs improves perceived understanding and perceived trust. We conducted a pre-registered within-subject experiment ($N = 128$) across seven decision scenarios and five XAI methods, with and without LLM generated explanations. The explanations improved perceived understanding and perceived trust by 0.35 and 0.26 points on five-point scales (both $p < .001$). The gain appeared in all seven scenarios, did not differ between local and global explanations, and was largest for participants with the least prior XAI exposure. A mediation analysis indicates an indirect effect on perceived trust through perceived understanding. These results suggest that multimodal LLMs can provide a useful interpretive layer for XAI beyond expert audiences.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.21638v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.