PyTorchKR Papers

최신 논문

총 5편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.20760v2stat.ME

공편도(coskewness) 기반 차원 축소를 활용한 투블록 클러스터링 트리: 구간별 다변량 선형 체제 복원

Twoblock clustering trees with coskewness-based dimension reduction: recovering piecewise multivariate linear regimes

다변량 반응변수를 위한 해석 가능성이 매우 높은 회귀 트리인 투블록 클러스터링 트리(twoblock clustering tree, \tbtree)를 소개합니다. 투블록 트리는 리프(leaf) 노드에 국소 다변량 선형 모델을 배치하고, 국소 리프 모델 및 불순도(impurity) 계산에 조밀(dense) 또는 희소(sparse) 투블록 차원 축소를 사용하는 결정론적 의사결정 트리입니다. 이를 통해 도출된 모델은 연산 효율성이 높으며 매우 뛰어난 해석력을 가질 수 있습니다. 본 추정기의 주요 목표는 데이터에 대한 해석 가능하고 체제(regime)에 정렬된 구간별 선형(piecewise-linear) 설명을 제공하는 것이며, 분할과 리프의 분리(split/leaf decoupling)를 통해 제약 조건으로서 예측 경쟁력을 유지합니다. 본 논문은 의사결정 트리 추정기 자체를 제안하는 것 외에도 공편도(coskewness) 극대화에 기반하여 데이터 내 비정규 클러스터 식별을 용이하게 하는 투블록 차원 축소 공간 추정기를 소개합니다. 이 트리는 본질적으로 국소 선형 모델들의 집합을 생성하므로 구간별 선형 체제를 복원하는 데 적합하며, 이는 시뮬레이션을 통해 입증됩니다. 아울러 두 가지 실제 데이터 예시를 통해 투블록 트리가 더 복잡한 비선형 의존성을 모델링할 수도 있으며, 랜덤 포레스트(random forests)와 같은 블랙박스 모델링 기법과 대등한 성능을 보일 수 있음을 보여줍니다. 각 단계에서 분할을 생성하는 투블록 모델과 리프에 있는 모델 모두를 직접 점검하고 해석할 수 있습니다.

arXiv:2609.28087v1cs.AI

데이터 기반 진단 과정에서 완전 효율적 결함 지표의 발견

Discovery of fully efficient fault indicators along a data-based diagnosis process

모델 기반과 데이터 기반 패러다임의 통합은, 모델 기반 진단에서 진단 지표로 쓰이는 해석적 중복 관계(analytical redundancy relations), 즉 입출력 관계의 해석 가능성과 학습 기법의 적응성을 결합함으로써 결함 진단을 위한 강력한 틀을 제공한다. DT4X는 해석적 중복 관계의 일부 성질을 활용해 다변량 관계를 생성하는 기호 회귀(symbolic regression)를 사용하고, 이를 결정 트리의 분할 함수로 쓰는 최근의 진단 알고리즘이다. 그러나 그 기호 회귀 절차는 각 노드에서 선택된 두 클래스 간의 분리만 최적화하여, 나머지 클래스를 종종 조각내고 해석 가능성과 진단 성능을 모두 저하시킨다. 본 논문은 DT4X의 개선판인 DT4X+를 제안하며, 학습 집합 구성과 기호 회귀 손실을 수정하여 표현식이 대상 클래스를 분리하면서 비대상 클래스의 일관성을 유지하도록 한다. 그 결과 관계는 해석적 중복 관계(ARR) 성질과 완전히 일치하게 되며, 더 정보가 많은 분할, 향상된 견고성, 동적 시스템 데이터셋에서의 더 나은 성능으로 이어진다. 여러 벤치마크 시스템에서 수행한 실험은 이 개선된 공식화의 이점을 보여 준다.

arXiv:2607.01417v1cs.LG

Conditional Inference Trees and Forests for Feature Selection

조건부 추론 트리(CIT)와 조건부 추론 포레스트(CIF)의 분할 선택 편향 감소 메커니즘을 분석하고, 이를 상위-k 특징 랭킹 방법으로 평가한 연구로, 22개 분류 데이터셋에서 17개 방법 중 4위, 8개 회귀 데이터셋에서 18개 방법 중 3위를 기록하며 적응형 조기 종료 비활성화 시 학습 시간이 최대 8.4배 증가하는 반면 하위 예측 점수 변화는 0.011 이하임을 실험적으로 입증했다.

arXiv:2606.29053v1cs.LG

커널 피셔 판별 분석 기반 트리 앙상블 분류기: KFDA Forest

A Kernel Fisher Discriminant Analysis-Based Tree Ensemble Classifier: KFDA Forest

일반적으로 앙상블 분류기는 단일 분류기보다 정확도가 높다. 본 연구에서는 KFDA를 적용한 트리 기반 앙상블 방법인 커널 피셔 판별 분석 포레스트(KFDA Forest)를 제안한다. 다양성을 높이기 위해 부트스트랩을 사용하며, 변수 집합을 무작위로 K개의 부분 집합으로 나눈다. 분류 정확도를 높이기 위해 각 부분 집합에 대해 KFDA를 수행한다. KFDA는 클래스 간 거리를 최대화하는 동시에 클래스 내 거리를 최소화한다. 또한 KFDA는 입력 공간을 커널 특징 공간으로 변환할 수 있어—이를 흔히 회전(rotation)이라 부르며, 차원 축소를 수행하는 것이 아니라—커널 트릭을 사용하여 비선형 데이터 구조의 분류 문제에도 적용할 수 있다. 새로운 특징 축과 KFDA 투영이 평행하기 때문에 기본 분류기로 결정 트리를 사용한다. 제안된 방법을 기존 앙상블 방법과 비교하기 위해 UCI 및 KEEL 저장소의 실제 데이터셋에 적용한다.

arXiv:2606.19632v1cs.RO

결정 트리 증류를 통한 학습된 다중 에이전트 통신 정책의 형식적 검증

Formal Verification of Learned Multi-Agent Communication Policies via Decision Tree Distillation

다중 에이전트 강화학습(MARL)은 에이전트가 창발적 통신(emergent communication)을 통해 협동 전략을 개발할 수 있게 하지만, 신경망 정책은 드론 군집 및 자율주행 차량 군집과 같은 안전 임계(safety-critical) 로봇 배치에 필요한 형식적 안전성 보장이 부족합니다. 우리는 정책 추상화(policy abstraction)를 통해 학습된 다중 에이전트 통신 정책의 안전성 검증을 위한 최초의 엔드 투 엔드 프레임워크를 제시합니다: 신경망 정책을 해석 가능한 결정 트리로 증류(distill)한 뒤 형식적으로 검증하며, 경험적 검증(empirical validation)을 통해 검증된 안전성 속성이 원래 네트워크로 전이됨을 확인합니다. 우리의 4단계 파이프라인은 에이전트 관찰로부터의 도메인 특화 특징 추출, 신경망 정책에 대해 97.9% +/- 1.2%의 충실도(fidelity)를 달성하는 결정 트리 증류, 완전한 특징-상태 변수 대응을 갖는 PRISM 확률적 모델 검사기(probabilistic model checker) 사양으로의 자동 번역, 그리고 유니온 바운드(union-bound) 집계 및 경험적 이웃 모델링을 통한 쌍별 분해(pairwise decomposition)를 이용한 확률적 계산 트리 논리(PCTL) 속성의 구성적 검증(compositional verification)으로 구성됩니다. 5-7개의 에이전트를 사용한 다중 드론 협동(multi-drone coordination)을 위한 벡터 양자화 변이 정보 병목(Vector-Quantized Variational Information Bottleneck, VQ-VIB) 정책을 평가하여, 우리는 안전성, 활성성(liveness), 협력에 걸쳐 18개의 시간 논리 속성을 검증했으며, 88.9%의 속성 만족도를 달성하고 5개의 안전성 임계값을 모두 충족했습니다(0.3% 충돌 확률 대 1% 임계값). 원래 신경망 정책에 대한 몬테카를로 검증(Monte Carlo validation)은 검증된 안전성 속성이 0.6 퍼센트 포인트 이하의 편차(95% 신뢰 구간)로 전이됨을 확인합니다. 이산 VQ-VIB 메시지는 연속적 방법 대비 +11.6에서 +13.6 퍼센트 포인트의 충실도 이점을 제공하여 3-4배 더 빠른 검증을 가능하게 합니다. 우리의 프레임워크는 증류된 정책 추상화에 대해 경험적으로 검증된 안전성 검증을 제공하며, 다중 로봇 배치를 위한 심층 MARL과 형식적 안전성 워크플로우 사이의 실용적인 가교 역할을 합니다.