PyTorchKR Papers

최신 논문

총 78편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2412.19897v3stat.ML

설명 가능한 예측적 시계열 보정을 위한 대리 모델링

Surrogate Modeling for Explainable Predictive Time Series Corrections

설명 가능한 시계열 예측을 위해 해석 가능한 기반 모델과 비해석적 AI 보정 모델을 결합한 하이브리드 구조에서, AI 보정값을 제거한 데이터에 기반 모델을 재적합하여 파라미터 변화량(Δθ)으로 보정의 의미를 설명하는 BAPC(Before and After Prediction Parameter Comparison) 방법론을 시계열로 확장한다. 트렌드·주파수 변화점 및 Air Passenger, Tennessee Eastman Process 등 실제 데이터셋 실험을 통해 이상 패턴을 시간축 기준 특징 중요도 시각화로 설명할 수 있음을 보인다.

arXiv:2606.29346v1cs.LG

불투명한 과학적 모델의 사후 설명이 가진 신뢰성, 충실성, 그리고 그 한계

Reliability, Faithfulness, and the Limits of Post-hoc Explanations of Opaque Scientific Models

사후 설명(post-hoc explanation) 방법이 과학적 머신러닝 모델 해석에 널리 쓰이지만, 신뢰성(reliability)이 모델 예측과 현상의 결과 일치를 확인하고 충실성(faithfulness)이 설명과 모델의 일치를 확인할 뿐, 둘 다 모델이 현상의 실제 작동 방식대로 동작하는지는 검증하지 못한다는 한계를 논증한다. 이 두 평가의 합성만으로는 현상의 인과적·기계적 구조에 관한 주장을 정당화할 수 없으며, 이는 신뢰성과 충실성을 아무리 높여도 구조적으로 해소되지 않는 간극임을 형식적으로 보인다.

arXiv:2606.28933v1cs.CL

FinInvest-GTCN: 리스크 인식 투자 의사결정 최적화를 위한 설명 가능한 그래프-시간-인과 모델링

FinInvest-GTCN: Explainable Graph-Temporal-Causal Modeling for Risk-Aware Investment Decision Optimization

벤처 캐피털(VC) 투자 의사결정은 다중 출처 이종 데이터, 비정상 시계열, 그리고 고위험·저데이터 환경에서의 설명 가능한 예측 수요 등 고유한 도전 과제에 직면한다. 이러한 문제를 극복하기 위해 우리는 콘텐츠 추천에서 정량적 리스크-수익 평가로 과제를 재정의한 그래프-시간-인과 네트워크인 FinInvest-GTCN을 제안한다. 이 아키텍처는 투자 생태계의 위상을 포착하는 관계형 그래프 인코더, 장기 의존성과 비정상성을 처리하는 다중 스케일 시간 융합 모듈, 그리고 해석 가능한 인과 귀인(causal attribution)과 함께 리스크 조정 예측을 생성하는 인과 결정 헤드를 결합한다. 핵심 혁신은 메타-인과 적응(MCA) 전략으로, 메타 사전학습에서 도출된 인과적으로 타당한 구조와 업데이트를 정렬함으로써 새로운 데이터 희소 분야에 대한 견고한 미세조정을 가능하게 한다. 독점 VC 데이터셋에 대한 포괄적 실험에서 FinInvest-GTCN은 최첨단 결과를 달성하며, 주요 지표인 리스크 조정 평균 제곱 오차(RA-MSE)를 기준선 3.05에서 2.51로 현저히 낮추고 시뮬레이션 포트폴리오의 누적 수익을 18.7% 향상시켰다. 절제 연구(ablation study)는 각 구성 요소의 핵심적인 역할을 강조하며, 추가 분석은 모델의 안정성, 해석 가능성, 그리고 향상된 적응력을 확인한다. 본 연구는 투자 의사결정 지원을 위한 데이터 기반의 설명 가능한 프레임워크를 개척한다.

arXiv:2606.28708v1cs.CL

AnTenA: 대규모 언어 모델을 활용한 실행 가능하고 설명 가능한 텐서 분석 시스템

AnTenA: Actionable and Explainable Tensor Analysis System with Large Language Models

다중 측면 데이터의 숨겨진 패턴을 정확히 설명하는 작업은 일반적으로 레이블 및/또는 보조 메타데이터를 활용하여 수행되어 왔다. 그러나 레이블과 보조 데이터는 부정확하거나(예: 비표준적이거나 일관성이 없는 경우), 불충분하거나(예: 시간 의존적 기록에 대한 정적 표 형식 메타데이터), 또는 사용 불가능한 경우가 있다. 우리는 대규모 언어 모델(LLM)의 지식을 활용하여 인간 내러티브의 숨겨진 패턴을 설명하는 \fullmethod(\method)를 제안한다. \method는 태스크 비종속적(task-agnostic) 및 태스크 특화적(task-specific) 프롬프트를 사용하여 텐서 분해로부터 추출된 공동 클러스터링된 잠재 패턴을 설명한다. 이러한 설명들을 평가하기 위해, 순방향 및 역방향 추론 태스크에서 LLM을 테스트한다. 데모 시스템은 https://github.com/dawonahn/ECML_PKDD_AnTenA 에서 확인할 수 있다.

arXiv:2606.30090v1cs.AI

SAT-RTS: A systematic framework for tactical knowledge extraction and visualization-based analysis in real-time strategy games

Efficient tactical knowledge extraction and analysis in real-time strategy (RTS) games micromanagement are constrained by the high-dimensional coupled state-action sequential data and the black-box decision-making process. Current research rarely provides a hierarchical visualization-based attribution analysis from the perspective of data decoupling and abstraction. To facilitate interpretable tactical knowledge extraction and visualization-based analysis in RTS games, a systematic framework named state-action-tactic analysis pipeline (SAT-RTS) is proposed. To decipher the deep-seated drivers of critical decisions in RTS learning systems, this work integrates interpretable visualization with the automated extraction of latent tactical patterns from high-dimensional sequence data. By adapting a cluster-centric BK-tree algorithm and incorporating specialized distance metrics designed to quantify multi-aspect similarities, the proposed framework facilitates robust state-stream abstraction. Furthermore, a rule-based multi-label extraction method is developed to transform unstructured state-action sequences into discrete and interpretable tactical labels, effectively bridging the gap between raw behavioral data and high-level tactical insights. By holistically integrating these computational methods into a hierarchical visualization-based pipeline, the proposed framework effectively addresses the challenges of processing massive real-time data streams while providing fitness landscape visualizations and analytical insights to decipher deep-seated tactical drivers. Comprehensive experiments demonstrate that the proposed SAT-RTS significantly enhances the interpretability and efficiency of tactical analysis in complex RTS environments.

arXiv:2606.27973v1cs.CL

블랙박스에서 임상 통찰로: 음성 기반 인지 장애 검출을 위한 다단계 설명 가능 프레임워크

From Black-Box to Clinical Insight: A Multi-Stage Explainable Framework for Speech-Based Cognitive Impairment Detection

SHAP 기반 토큰 귀속, 이론 기반 언어학적 특징 추출, LLaMA-3.1-70B-Instruct를 활용한 4단계 대규모 언어 모델(LLM) 추론 파이프라인을 결합하여, 블랙박스 트랜스포머 기반 인지 장애 음성 검출 모델의 예측을 임상적으로 해석 가능한 언어 내러티브로 변환하는 다단계 설명 가능성(explainability) 프레임워크를 제안한다. NIA PREPARE 벤치마크에서 F1 72.11%를 달성한 SpeechCARE-Adaptive Gating Network를 기반으로, 의사 평가에서 환자 인지 프로필과 강한 정렬을 보였으며 System Usability Scale 82/100을 기록해 임상 워크플로 통합 가능성을 확인했다.

arXiv:2606.27069v2cs.CL

설명 가능한 재판 편차를 향하여: 게이트 멀티태스크 학습을 통한 사법적 재량 정량화

Towards Explainable Adjudicative Variance: Quantifying Judicial Discretion via Gated Multi-Task Learning

법적 결과 예측에서 객관적 사건 사실과 판결 맥락(사법적 재량)을 분리하기 위해 판사 인식 게이트 멀티태스크 학습(Judge-Aware Gated Multi-Task Learning)과 세밀한 결과 분류 체계, 게이트 융합(Gated Fusion)을 결합한 아키텍처를 제안한다. 영국 고용 심판소 13,937건 벤치마크에서 LoRA 적용 Gemma-4 인코더와 이 구조를 결합한 모델이 생성형 지도 미세조정(SFT) 기준선보다 학습 가능 매개변수를 한 자릿수 적게 쓰면서 최고 성능을 달성했고, 모호·희귀 결과 클래스와 판사 임베딩 기반 해석 가능성에서 이점이 두드러진다.

arXiv:2606.28112v1cs.CV

BiDeMem: 설명 가능한 이미지 복원을 위한 양방향 열화 메모리

BiDeMem: Bidirectional Degradation Memory for Explainable Image Restoration

열화 인식 프롬프트, 조건, 잠재 사전분포(latent prior)는 이미지 복원에서 점점 더 많이 사용되지만, 보통 복원된 이미지의 PSNR이 더 높아지는지라는 단 하나의 기준으로만 평가된다. 이는 의미론에 대한 약한 검증이다. 조건은 용량을 추가하거나 전역 교정 바이어스로 작용하거나 데이터셋 숏컷을 활용함으로써 도움이 될 수 있지만, 해석 가능한 열화 사전분포가 되지는 않을 수 있다. 우리는 설명 가능한 이미지 복원을 위한 양방향 열화 메모리 BiDeMem을 제안한다. 복원 특징과 입력 통계로 구성된 쿼리가 메모리 슬롯의 소형 top-k 부분집합을 검색한다. 동일하게 선택된 슬롯 식별자는 추론 시점의 복원 경로와 학습 전용 순방향 열화 설명 경로를 모두 지원한다. 본 연구는 통제된 다중 열화 NAFNet 설정에서의 검증 가능성에 초점을 둔다. 새로운 통제 실험은 단독 교정 헤드, 밀집 쿼리 사전분포, 정적 전역 사전분포에서 얻는 이득을 분리한다: 이 변형들은 각각 BiRank보다 0.2588, 0.2586, 0.2839 dB 낮다. 강한 잔차 감독과 더 넓은 열화 헤드 역시 전체 양방향 메모리 모델보다 낮은 성능을 보인다. 개입 프로브는 BiRank가 복원 품질을 유지하면서 wrong-prior 및 native-prior 민감도를 높인다는 것을 보여주며, 열화 메모리를 복원 모듈이자 반증 가능한 설명 메커니즘으로 규정한다.

arXiv:2606.27274v1cs.LG

BetXplain: 소셜 미디어상 조작적 베팅 광고 탐지를 위한 설명 주석 데이터셋

BetXplain: An Explanation-Annotated Dataset for Detecting Manipulative Betting Advertisements on Social Media

Instagram과 Reddit에서 수집한 베팅 관련 광고를 조작적·기만적·책임 있는 유형으로 수동 주석하고, 각 라벨의 근거를 담은 설명을 포함한 BetXplain 데이터셋을 제안한다. 설득 전략과 정신건강 영향을 분석하고 트랜스포머 및 대규모 언어 모델(LLM) 기반 조작 광고 탐지 방법을 평가한다.

arXiv:2606.26228v1physics.data-an

물리학의 기계학습에서 '해석 가능성'의 해석과 '설명 가능성'의 설명

Interpreting "Interpretability" and Explaining "Explainability" in Machine Learning in Physics

물리학에서 기계학습의 해석 가능성(interpretability)과 설명 가능성(explainability)을 구조적 투명성과 도메인 지식 대응으로 구분해 검토하며, 표현력·적응성과의 트레이드오프와 내재적·사후(post-hoc) 방법을 정리한다. 기계학습 모델도 고전 모델과 동일한 과학적 질문의 대상이며, 해석·설명 가능성은 고유 속성이 아니라 작업 명세와 개입 계획을 포함한 의도적 모델링 선택으로 이해해야 한다고 강조한다.

arXiv:2502.10764v4cs.LG

항공 교통 상황 설명 학습

Learning to Explain Air Traffic Situation

복잡한 항공 교통 상황에서 관제사의 정신적 상황 파악을 설명하기 위해, 항공기의 시공간적 이동과 상호작용을 함께 모델링하는 트랜스포머 기반 다중 에이전트(multi-agent) 궤적 모델을 제안하고 어텐션(attention) 점수로 개별 항공기가 전체 교통 역학에 미치는 영향을 정량화한다. 인천국제공항 터미널 공역 감시 데이터로 학습한 결과, 특정 항공기가 주변 교통 흐름 변화에 어떻게 주목하는지 설명 가능한 통찰을 제공하며 관제사의 의사결정과 상황 인식(situational awareness) 지원 가능성을 보여준다.

arXiv:2606.25808v1math.OC

Generating Input Distributions for Explaining Portfolio Optimization Pipelines

예측-최적화-설명(POE) 프레임워크에서 기울기 기반 샘플 생성으로 지정된 포트폴리오 결과를 유발하는 거시경제 조건의 입력 분포를 만들어 포트폴리오 모델을 해석한다. 예측 후 최적화(PTO)와 예측과 최적화(PAO) 간 수익 격차, 분산 대 집중 배분, 시장 국면별 성능, 벤치마크 수익 달성 등 경제적 가정 질문으로 예측 모델과 포트폴리오 최적화가 결합된 의사결정 파이프라인을 특성 중요도 방식과 달리 직접 탐색할 수 있음을 보였다.

arXiv:2606.24997v1cs.LG

What's in an Earth Embedding? An Explainability Analysis of Location Encoders

지리적 암시적 신경 표현(INR)의 location embedding이 어떤 지리·의미 정보를 담는지 희소 오토인코더, SpLiCE 기반 자연어 개념, CLIP Surgery saliency map으로 희소 잠재 개념·자연어 개념·시각 특징으로 분해해 해석 가능성을 분석한다. 높은 재구성 성능을 유지하면서 숲·사막·도시 구조 등 해석 가능한 지리 구조와 도로·랜드마크 같은 보완적 특징을 드러내며, 인코더마다 도시 신호부터 기후·생물군계 신호까지 체계적 차이를 보인다.

arXiv:2606.24978v1cs.LG

Auto-Configured Explainable Graph Neural Networks for Multi-Site Pollution Prediction

혼동 행렬(confusion matrix) 기반의 동적 그래프 구조 생성과 에너지 거리·Huber 손실을 결합한 하이브리드 손실 함수를 적용해 GNN의 미세먼지(PM) 농도 예측 정확도와 학습 안정성을 개선한 연구로, Salt Lake City AirU 모니터링 네트워크 데이터에서 GraphSage가 PM₁, PM₂.₅, PM₁₀ 단일·다단계 예측 모두에서 가장 높은 정확도를 달성했으며 GNNExplainer와 PGExplainer를 통해 모델 해석 가능성도 확보했다.

arXiv:2606.24970v1cs.LG

Don't Go Breaking My LLM: The Impact of Pruning Attention Layers on Explanation Faithfulness and Confidence Calibration

Pruning Large Language Models (LLMs) reduces memory and inference costs by removing parts of the network, producing smaller models that retain most of their accuracy. As attention layers are the most resource-intensive parts of LLMs, pruning them is a promising compression strategy. Prior work shows that up to 33% of attention layers can be pruned with minimal accuracy loss. Nevertheless, the impact of attention pruning on model interpretability, specifically faithfulness and confidence calibration, remains unstudied. To address this gap, we study how pruning attention layers affects explanation faithfulness and confidence calibration across five LLMs and eight datasets. While the pruned models often maintain high accuracy, we find that their faithfulness and calibration often degrade. Notably, faithfulness and calibration can fluctuate significantly, even when accuracy remains stable, highlighting a misalignment between model confidence, interpretability, and accuracy. Our findings suggest that layer pruning can affect LLMs' interpretability and reliability in ways not captured by accuracy and efficiency measures alone. We recommend including explainability and calibration metrics when evaluating pruned models.

arXiv:2606.25941v1cs.HC

Explainable Control Framework (XCF) based on Fuzzy Model-Agnostic Explanation and LLM Agent-Supported Interface

Increasing demand for precise and reliable control in complex scenarios has led to the development of increasingly sophisticated controllers, including data-driven approaches employing closed box models and mathematically rigorous yet complex designs. This complexity highlights the needs for explainable control that can provide human-understandable insights into controller behavior. In this paper, an explainable control framework (XCF) along with supporting algorithms and user interface are proposed to explain how controllers determine their control actions and their underlying working mechanism. The novel contributions of this work are threefold: First, the XCF is designed to provide model-agnostic explanations for controllers in closed-loop systems and can optionally refine local explanations by system response dynamics. Second, a novel explanation method, hierarchical fuzzy model-agnostic explanation for control systems (HFMAE-C), is proposed based on the designed framework. The HFMAE-C employs a fuzzy logic system to approximate the controller's behavior and system dynamics, providing sample, local, domain and universe level explanations via IF-THEN rules revealing the controller's decision logic and salience values quantifying the contribution of system states to control actions. Third, a large language model agent-supported user interface is developed to automatically analyze user requirements, select appropriate algorithms, interpret the generated explanations to a natural language report, and provide interactive consultation. Case studies on inverted pendulum system and Turtlebot obstacle avoidance demonstrate the effectiveness of the proposed method through simulated user experiments and quantitative comparisons with mainstream explainable control approaches.

arXiv:2606.25103v1cs.AI

Beyond Shapley: Efficient Computation of Asymmetric Shapley Values

We address the problem of explainability in machine learning models through feature attribution methods. In particular, we consider a variant of Shapley values known as Asymmetric Shapley Values (ASV), which enables the incorporation of causal knowledge into model-agnostic explanations through the use of a causal graph. We show that in certain contexts in which the computation of SHAP is $\#P$-hard, the exact computation of ASV can be done in polynomial time. To extend this algorithmic result, we introduce a notion of equivalence classes over the topological orderings of the underlying causal graph, which is useful to reduce the time to compute ASV. In particular, we present a polynomial-time algorithm (in the number of equivalence classes) to compute it whenever the causal graph is a rooted directed tree. Finally, we develop an algorithm for approximating ASV in arbitrary causal DAGs which relies on a procedure to sample topological orderings uniformly at random. To implement this sampling mechanism we leverage known algorithms as well as simpler alternatives. Our experimental results demonstrate the practical viability of the proposed approach in realistic causal structures.

arXiv:2606.23701v1cs.CL

Evaluating LLM Usage for Efficient and Explainable Numerical and Classified Implicit Sentiment Analysis of Product Desirability

제품 매력도에 대한 정성적 피드백에서 암묵적 감성(implicit sentiment)을 정량화하기 어렵다는 문제에 대해, 대규모 언어 모델(LLM)로 Product Desirability Toolkit(PDT) 응답에서 제로샷(zero-shot) 수치·범주형 감성 점수를 산출하는 확장 가능하고 해석 가능한 프레임워크를 제시한다. ZORQ·CARMA PDT 데이터셋 106개 응답 그룹에서 전문가 라벨과 Pearson 상관계수 최대 0.97, 분류 정확도 최대 94%에 근접했고, 어휘·트랜스포머 베이스라인과 달리 GPT-4o-mini는 대형 모델 수준 성능을 94% 낮은 비용으로 달성하며 신뢰도와 설명 가능한 AI(xAI) 근거로 해석 가능성을 높였다.