PyTorchKR Papers

최신 논문

총 11편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.15795v1cs.CL

나스탈리크 우르두어 공격적 콘텐츠 탐지를 위한 설명 가능한 시스템: 말뭉치 구축, 트랜스포머 벤치마킹 및 단어 수준 기여도 분석

An Explainable System for Offensive Content Detection in Nastaliq Urdu: Corpus Curation, Transformer Benchmarking, and Word-Level Attribution

자동화된 중재 시스템이 대규모로 배포되고 있지만, 그 결정에 영향을 받는 사용자와 중재자에게는 여전히 불투명하며 적용 범위도 거의 전적으로 영어에만 국한되어 있다. 나스탈리크(Nastaliq) 문자로 작성된 우르두어의 경우 이러한 시스템이 전무하며, 시스템 구축의 기반이 되는 주석 달린 자원 역시 사용자의 작성을 제한하는 글자 수 제한이 있는 Twitter/X에서 주로 추출된다. 해석 가능성에 대해서는 거의 주목받지 못하여 이러한 모델들이 실제로 무엇을 학습하는지 불분명한 상태로 남아 있다. 본 연구는 세 단계를 통해 이러한 공백을 해결한다. 첫째, 텍스트 수준의 불일치를 수정하고 기존 라벨을 재검토하여 이전 말뭉치를 확장한 7,604개의 나스탈리크 우르두어 Facebook 댓글 말뭉치를 구축하고 공개한다. 둘째, 공통 격자 탐색(grid-search) 프로토콜에 따라 우르두어 처리가 가능한 4개의 트랜스포머(transformer)를 파인튜닝하고, 동일한 데이터 분할에서 12개의 특징(feature)-분류기 기준선(baseline)과 비교한다. 최고 성능을 기록한 인도 언어 다국어 표현(MuRIL) 구성은 정확도 87.05% 및 매크로 F1 87.06%에 도달하여 가장 강력한 기준선 대비 5.52%포인트 향상되었으며, 이는 테스트 정확도의 95% 신뢰 구간을 초과하는 마진(margin)이다. 상위 2개 트랜스포머의 성능 차이는 테스트 세트에서 유의미하게 구분할 수 있는 수준 미만이었고, 5개 최적화 도구에 걸쳐 성능이 안정적으로 유지되었다. 셋째, 우횡서(right-to-left) 렌더링에 맞게 조정한 단어 수준 SHAP 기여도를 계산한다. 기여도 가중치는 고빈도 비속어에 집중되지만, 구문론적으로 중립적인 기능어 및 출처 페이지 특유의 정치 어휘로도 확장되며, 이는 종합적인 성능이 공격성에 대한 일반화 가능한 표현보다는 부분적으로 어휘 및 주제적 규칙성에 의존할 수 있음을 나타낸다.

arXiv:2601.12654v3cs.LG

SHAP에서의 설명 다중성: 특성화 및 평가

Explanation Multiplicity in SHAP: Characterization and Assessment

SHAP 설명은 중요한 의사결정을 정당화하기 위해 고위험 환경에서 널리 사용되지만, 모델, 입력 인스턴스, 예측이 일정하게 유지되는 경우에도 반복 실행 간에 상당한 차이를 보일 수 있습니다. 선행 연구에서는 서로 다른 설명 방법 간의 불일치를 기록해 왔으나, 본 연구에서는 동일하게 학습된 모델과 인스턴스에 대해 동일한 추정기를 재실행할 때조차 SHAP 내부에서 상당한 불일치가 발생함을 보입니다. 저자들은 이 현상을 '설명 다중성(explanation multiplicity)'이라 부르고, 실제 배포 환경 수준의 계산 예산 하에서 이를 특성화하기 위한 평가 방법론을 개발했습니다. 이는 모델 기인 변동성과 설명기(explainer) 기인 변동성을 비교하는 이중 시드(dual-seed) 프로토콜, 크기 기반·순위 기반·집합 기반 지표의 계층 구조, 그리고 관측된 불일치에 대한 기준 척도를 제공하는 무작위 Dirichlet 및 Mallows 귀무 모델을 결합합니다. 여러 데이터셋, 모델, 샘플링 전략 전반에 걸쳐 분석한 결과, 설명 다중성은 만연하며 신뢰도가 높은 예측에 대해서도 지속됨을 발견했습니다. 각 원인의 상대적 기여도는 데이터 체제와 모델에 따라 달라집니다. 모델 기인 불일치는 일반적으로 더 작은 데이터셋에서 더 큰 반면, 설명기 기인 불일치는 더 큰 데이터셋에서 더 큽니다. 흔히 사용되는 L2 거리는 이러한 불안정성을 과소평가할 수 있는 반면, 순위 기반 지표는 최상위 특징(feature)을 포함하여 상위 랭크 특징들의 실질적인 변화를 드러냅니다. CTE와 같이 개선된 샘플링 방법도 순위 수준의 다중성을 제거하지 못하며, K-Means는 실행 간 변동을 줄이지만 압축된 배경(compressed-background) 설명이 경험적 분포 기준과 달라질 수 있습니다. 실무자는 단일 실행 SHAP 결과를 결정적인 결과물이라기보다는 한 분포의 표본 실현값으로 취급해야 합니다.

arXiv:2606.16786v2cs.LG

설명 알고리즘을 현실 세계와 연결하기 위한 설명 카드의 필요성

We Need Explanation Cards to Connect Explanation Algorithms to the Real World

알고리즘적 설명(algorithmic explanation)은 이해관계자가 불투명한 알고리즘의 의사결정을 이해하도록 돕기 위한 것이지만, 실제로는 기대에 미치지 못하는 경우가 많습니다. 첫째, 알고리즘적 설명의 의미는 직관적으로 기대하는 바와 다른 경우가 많아 올바르게 해석하려면 전문가 수준의 지식이 필요합니다. 둘째, 최근 연구에 따르면 널리 사용되는 설명 알고리즘들이 복잡한 결정 함수의 동작에 대해 유의미한 정보를 제공하지 못하는 것으로 나타났습니다. 이러한 문제들이 결합되어 설명이 전달하는 것처럼 보이는 것과 실제로 제공하는 것 사이에 격차가 발생합니다. 본 연구에서는 표준적인 설명에 견고성(robustness) 및 유효성(validity)에 관한 보완 정보와 명확한 해석 지침을 더하는 '설명 알고리즘을 위한 설명 카드(Explanation Cards)'를 제안합니다. 이러한 보완 정보는 유의미하지 않던 설명을 실질적으로 유용하게 만들 수 있으며, 그렇지 못한 경우를 감지하는 데도 도움을 줍니다. 특히 설명 카드의 해석 지침은 책임을 사용자에서 제공자로 전환합니다. 즉, 사용자가 설명으로부터 무엇을 결론지을 수 있고 무엇을 결론지을 수 없는지 알아차리기를 기대하기보다, 제공자가 이를 사전에 명시해야 합니다. 본 논문에서는 반사실적 설명(counterfactual explanation)과 SHAP을 예시로 들어 제공자가 설명 카드를 어떻게 구축할 수 있는지, 그리고 이러한 카드가 사용자에게 타당한 해석에 필요한 지침을 어떻게 제공하는지 실증합니다. 나아가 설명 카드가 EU 인공지능법(EU AI Act)의 설명가능성 규정을 실무적으로 운용할 수 있는 실질적인 방안을 제공한다고 주장합니다. 종합적으로 설명 카드는 설명 알고리즘을 실제 적용 사례에 적합하게 만드는 중요한 진전입니다.

arXiv:2512.21066v4cs.AI

더 나은 설명을 탐색하기 위한 에이전틱 설명 가능한 인공지능(Agentic XAI) 접근법: 일본 벼 재배 의사결정 지원 사례 연구

Agentic Explainable Artificial Intelligence (Agentic XAI) Approach To Explore Better Explanation: A Case Study in Decision Support for Rice Cultivation in Japan

설명 가능한 인공지능(XAI)은 설명변수와 반응변수의 관계를 밝혀내지만, 비전문가에게 XAI 결과물을 전달하는 것은 여전히 어려워 AI 기반 예측에 대한 신뢰를 제한합니다. 대규모 언어 모델(LLM)은 기술적 설명을 이해하기 쉬운 서사로 변환할 수 있으나, 자율적인 LLM 에이전트(agent)에 의한 XAI 설명의 반복적 정제는 아직 탐색되지 않았습니다. 본 연구는 SHAP(SHapley Additive exPlanations)과 멀티모달 LLM에 의한 반복적 정제를 결합한 에이전틱 XAI 프레임워크를 제안하고, 이를 일본의 28개 논에서 수집된 벼 수확량 데이터에 농업 추천 시스템으로 시험합니다. 에이전트는 SHAP 결과로부터 11차례의 정제 라운드(라운드 0-10)에 걸쳐 추가적인 분석을 탐색했습니다. 작물학자(n = 12)와 LLM 평가자(n = 14)는 구체성(Specificity), 명확성(Clarity), 간결성(Conciseness), 실용성(Practicality), 맥락적 적합성(Contextual Relevance), 비용 고려(Cost Consideration), 작물학적 신뢰성(Crop Science Credibility)의 7개 기준에 따라 모든 라운드를 채점했습니다. 두 그룹 모두 정제를 통해 라운드 0 대비 평균 점수가 30-33% 향상되어 라운드 3-4에서 정점에 달한 후 품질이 저하되었으며, 작물학자의 경우 시작점 아래로 떨어졌음을 확인했습니다. 따라서 정제에는 전략적인 조기 종료(early stopping)가 필요하며, 이는 단조로운 개선이라는 가정을 반박합니다. 기준 수준의 궤적은 바이어스-분산 트레이드오프(bias-variance trade-off)를 나타냅니다. 초기 라운드는 구체성이 부족했던(바이어스) 반면, 과도한 반복(iteration)은 간결성을 훼손하고 근거 없는 경제적 추론을 통해 비용 고려를 증가시켰습니다(분산). LLM 평가자는 모든 기준에서 1.4-2.3점씩 과대평가했으나 전문가들의 라운드 순위는 대체로 유지하였으므로(Spearman $\rho$ = 0.58-0.90), 선별된 LLM 평가자는 신뢰할 수 없는 절대 점수에도 불구하고 품질 정점을 지목할 수 있습니다. 신뢰할 수 있는 에이전틱 XAI는 또한 LLM 평가자에 대한 전문가 기반의 선별과 투명하고 검증 가능한 정제 기록을 필요로 합니다.

arXiv:2607.14970v1cs.AI

GradientSHAP과 암시적 미분을 통한 공정 제어 최적화 권고 설명

Explaining Process Control Optimisation Recommendations via GradientSHAP and Implicit Differentiation

산업 공정에서 자동화된 최적화가 점점 더 널리 채택되고 있으나, 이러한 알고리즘을 설계하는 엔지니어와 권고 사항에 따라 조치해야 하는 운영자 사이에는 여전히 신뢰 격차가 존재한다. SHAP(SHapley Additive exPlanations)와 같은 설명 가능 AI(Explainable AI) 방법은 머신러닝 예측의 해석 가능성을 변화시켰으며, 최적화 결과 역시 유사한 기법의 이점을 누릴 수 있다. 본 연구는 암시함수 정리(Implicit Function Theorem, IFT) 기반 민감도 분석을 SHAP 속성 부여와 대규모 언어 모델(LLM)을 통한 서술 생성에 통합하여 운영자 맞춤형 설명을 생성하는 접근법을 제시한다. 본 접근법은 IFT를 활용해 최적성 조건으로부터 정확한 매개변수 민감도 $\partial p^*/\partial x$를 계산하고, 이를 통해 효율적인 GradientSHAP 계산을 가능하게 한다. 22개 특성을 갖는 산업용 고압 롤 분쇄기(High Pressure Grinding Roll, HPGR) 제어 최적화 문제에서 KernelSHAP과 상관관계 $>$0.99의 동등한 SHAP 속성 부여를 달성하면서 40$\times$ 이상 속도 향상을 이루어 실시간 자연어 설명을 가능하게 한다. 산업 시나리오에서 이를 검증하고 생성된 설명에 대한 도메인 전문가 피드백을 제시한다.

arXiv:2607.13469v1cs.LG

은행 거래 이상 탐지를 위한 설명 가능한 인공지능: 내부 감사 관점

Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions: An Internal Audit Perspective

은행 부문은 사기 징후를 찾기 위해 전자 거래를 모니터링하는 자동화 시스템에 점점 더 의존하고 있지만, 기존 규칙 기반 접근법은 높은 오탐(false-positive)률에 어려움을 겪고 출력에 대한 근거를 제공하지 않아 규정 준수(compliance) 팀의 활용도를 제한한다. 본 논문은 내부 감사 워크플로에서 은행 거래 이상 탐지를 위해 맞춤 설계된 설명 가능한 인공지능(XAI) 프레임워크를 제안한다. Isolation Forest(iForest) 모델이 비지도 이상 점수화를 수행하고, SHAP(SHapley Additive exPlanations) 층이 협력 게임 이론 [8]에 기반한 거래 수준의 특징 기반 설명을 제공한다. 경량 Streamlit 대시보드는 머신러닝 전문 지식이 없는 감사 전문가도 접근할 수 있는 형태로 이러한 출력을 시각화한다. 합성 은행 데이터셋에서의 평가는 정밀도 0.91과 재현율 0.88을 달성하여 세 가지 비지도 기준선을 능가한다. 전문가 피드백은 특징 수준 설명이 감사자의 신뢰와 의사결정 품질을 측정 가능한 정도로 향상시킴을 확인한다. 이 프레임워크는 규제가 있는 금융 환경에서 책임 있고 투명한 AI의 실용적 배포를 앞당긴다.

arXiv:2607.08299v2cs.LG

MLPTR-CC: 분류기 체인과 SHAP을 이용한 다중 레이블 병리학 검사 추천

MLPTR-CC: Multi-label Pathology Test Recommendation using Classifier Chains and SHAP

진단 의사결정은 종종 환자 증상과 최종 질병 진단을 연결하는 일련의 병리학 검사에 의존하는 경우가 많다. 기존 임상 의사결정 지원 시스템은 일반적으로 단일 질병 예측에 초점을 맞추며, 중간 검사 집합을 명시적으로 추천하거나 검사 간 의존성을 모델링하지 않는다. 본 논문에서는 병리학 검사 추천을 각 사례가 여러 상호 의존적인 검사와 연관된 다중 레이블 분류(multi-label classification) 문제로 공식화한다. 우리는 로지스틱 회귀, 의사결정 나무, 랜덤 포레스트 및 이들의 앙상블과 함께 분류기 체인(classifier chains)을 적용하여 검사 간 레이블 의존성을 포착하는 AI 기반 프레임워크를 제안한다. 전문가가 큐레이션한 사설 병리학 실험실 데이터셋에서의 실험 결과, 분류기 체인 모델이 독립형 대응 모델보다 우수한 성능을 보였으며, 일반적이고 희귀한 검사 모두에서 높은 정확도를 유지하면서 F1-score를 개선하고 해밍 손실(Hamming loss)을 감소시켰다. 신뢰와 투명성을 높이기 위해 SHAP 기반 설명 가능 AI(explainable AI)를 통합하여, 대부분의 경우 확립된 임상 추론과 일치하는 증상 수준 기여도(attribution)를 제공한다. 결과는 분류기 체인과 SHAP의 조합이 다중 레이블 병리학 검사 추천을 위한 효과적이고 해석 가능한 접근법을 제공하며, 초기 단계에서 적절한 진단 검사를 선택하는 데 임상의를 지원할 잠재력이 있음을 보여준다.

arXiv:2607.04416v2cs.LG

호흡기 질환의 환경적 요인: 지역구 수준 분석

Environmental Drivers of Respiratory Disease: A District Level Analysis

스리랑카 25개 행정 지역구의 11년(2014-2024) 패널 데이터를 구축하여 위성 기반 식생 지수, 대기오염물질(PM2.5, NO2, SO2), 산림 황폐화 지표를 XGBoost 모델로 학습한 결과, 지역구 단위 호흡기 질환율(R²=0.937)과 월별 PM2.5 농도(R²=0.976)를 높은 정확도로 예측했다. SHAP 분석을 통해 누적 대기질 부담이 호흡기 질환율 분산의 80.1%를 설명하는 압도적 요인임을 규명하고, 이를 기반으로 Forest-Air-Health(FAH) 위험 지수를 산출해 콜롬보, 감파하, 칼루타라를 최고위험 지역구로 식별했다.

arXiv:2606.30665v1cs.CY

Explainable Artificial Intelligence For The Detection and Characterisation of Stage B Heart Failure

Stage B heart failure is characterized by asymptomatic structural or functional cardiac abnormalities. Identifying individuals at this stage is clinically important, as early detection may enable targeted interventions to prevent progression to symptomatic disease. Explainable artificial intelligence (XAI) may support early detection, transparent risk stratification, and selection of clinically actionable interventions. This review examines the use of XAI in detecting and characterizing stage B heart failure. A literature search of Web of Science, Scopus, and PubMed was conducted on 27 March 2026. Studies were included if they applied AI with XAI techniques to stage B heart failure. After screening, 20 studies were included. Data on modalities, outcomes, demographic reporting, and XAI methods were extracted and synthesized. SHAP was the most commonly used method, followed by LIME, saliency maps, and Grad-CAM; however, XAI adoption was inconsistent, with some studies relying on limited or ad hoc interpretability approaches. Notably, none compared explanations across sex or ethnic subgroups, despite evidence of subgroup differences in disease burden. Evaluation of XAI outputs was often insufficient: some studies did not assess explanations, while others relied only on literature-based comparisons, introducing potential bias. These limitations suggest explainability was not systematically validated or leveraged to support robust and fair clinical inference. XAI shows promise for improving transparency in stage B heart failure identification, but current implementations remain limited. Key gaps include limited consideration of sex and ethnicity, absence of subgroup-specific analyses, inconsistent evaluation, and lack of external validation, all of which constrain generalisability and clinical adoption.

arXiv:2606.19118v1cs.AI

XAI를 활용한 유럽 전력 시장의 동인 및 상호 의존성 분석

Analysing drivers and interdependencies in European electricity markets using XAI

유럽 39개 입찰 구역 전력 가격을 심층 신경망(DNN)으로 모델링하고 SHAP·SSHAP 기반 설명 가능한 인공지능(XAI)으로 가격 결정 요인을 분석했으며, 태양광 등 재생에너지는 발전 비중 대비 불균형적으로 중요하고 가스 가격과 상호 연결망이 핵심 동인임을 확인했다. 단일 가격의 완전 통합 시장을 가정한 합성 EU 전역 시장을 통해 지역 간 가격 상호 의존성도 함께 탐색했다.

arXiv:2606.07351v1cs.LG

SleepExplain: EEG 신호를 이용한 설명 가능한 비급속 안구 운동(NREM) 및 급속 안구 운동(REM) 수면 단계 분류

SleepExplain: Explainable Non-Rapid Eye Movement and Rapid Eye Movement Sleep Stage Classification from EEG Signal

수면 단계 분류는 다양한 수면 관련 장애를 진단하는 가장 중요한 접근법 중 하나입니다. 뇌전도(EEG)는 수면 관련 신경학적 변화를 정확히 식별할 수 있으므로, 신경학적 효과와 수면 단계 간의 연관성을 살펴보는 강력한 도구로 여겨집니다. 비급속 안구 운동(NREM) 및 급속 안구 운동(REM) 수면 단계 동안에는 다수의 신경 및 신체 기능에 영향을 미치며, 이에 따라 해당 기능 수행에 있어 중요한 역할을 합니다. 본 연구는 수면 EEG 데이터에서 NREM 및 REM 수면 단계를 분류하고, 그 예측을 설명할 수 있는 설명 가능한 NREM 및 REM 수면 단계 분류 모델인 SleepExplain을 제시하는 것을 목표로 합니다. 본 연구에서는 랜덤 포레스트(Random Forest), XGBoost, 그래디언트 부스팅(Gradient Boosting) 앙상블 분류 모델을 사용하여 수면 단계를 분류했습니다. 전체적으로 92.54%(랜덤 포레스트), 94.25%(그래디언트 부스팅), 94.30%(XGBoost)의 정확도를 달성했습니다. 설명 가능한 분류 모델을 위해, 예측에 대한 설득력 있는 설명을 제공하는 게임 이론적 접근법인 SHAP(SHapley Addictive exPlanations)을 활용했습니다.