$\beta$-통합 지역 깊이와 적응형 그룹화를 통한 자동 깊이 기반 로컬 중심 클러스터링
Automatic depth-based local center clustering via $\beta$-integrated local depth and adaptive grouping
한국어 초록
클러스터링은 레이블이 없는 데이터를 여러 그룹으로 분할하는 비지도 학습 기법이다. 기존 대부분의 방법은 클러스터 수나 이웃 크기와 같이 사용자가 지정해야 하는 매개변수를 요구한다. 반면 우리는 수치적 매개변수 조정을 없애는 완전히 데이터 주도적인 방법인 automatic depth-based local center clustering(A-DLCC)을 제안한다. A-DLCC는 $\beta$-integrated local depth를 사용하여 여러 지역성 수준에서 일관되게 중심에 있는 점, 즉 안정적 exemplar인 local center를 식별하고, 이들을 대표성(representativeness)에 따라 순위화한다. 각 local center는 유사한 점들의 그룹을 유도하며, 그룹 수준 유사도는 제안한 비모수적 지표인 group-level local similarity로 측정한다. 병합을 안내하기 위해 그래프 이론의 bottleneck path 개념을 통합하며, 이는 우리의 적응형 병합 기준의 기반이 된다. 이 기준에 따라 그룹이 자기 자신보다 더 잘 도달하는 이웃에 흡수되거나, 양쪽 모두가 각자의 배경보다 더 도달 가능하다고 보는 이웃과 결합되는 단일 점진적 병합(agglomeration) 규칙을 설계한다. 모든 병합은 추가로 configuration-model null이 기대하는 것보다 강한 접촉(contact)에 의해 이루어져야 한다. 이 규칙은 클러스터 수를 자동으로 추정하고 병합을 중단할 시점을 결정한다. 합성 데이터와 실제 데이터에 대한 실험은 A-DLCC가 매개변수 조정 없이 해석 가능한 클러스터링 결과를 생성함을 보여준다.
원문 초록
Clustering is an unsupervised learning technique that partitions unlabeled data into groups. Most existing methods require user-specified parameters, such as the number of clusters or neighborhood size. Conversely, we propose automatic depth-based local center clustering (A-DLCC), a fully data-driven method that eliminates numerical parameter tuning. A-DLCC uses the $\beta$-integrated local depth to identify stable exemplars, points consistently central across multiple locality levels, termed local centers, which are ranked by their representativeness. Each local center induces a group of similar points, with group-level similarity measured by a proposed nonparametric metric called group-level local similarity. To guide merging, we incorporate the bottleneck path idea from graph theory, which forms the basis of our adaptive merging criterion. Based on this criterion, we design a single agglomeration rule in which a group is either absorbed by a neighbor it reaches better than itself or bonded to a neighbor that both sides find more reachable than their own background, every merge being additionally required to be carried by a contact stronger than a configuration-model null expects. The rule automatically estimates the number of clusters and decides when to stop merging. Experiments on synthetic and real data show that A-DLCC produces interpretable clustering results without parameter tuning.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2609.26748v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
조건부 공분산 순서화를 통한 함수적 인과 발견
Functional Causal Discovery via Conditional Covariance Ordering
본 연구는 각 노드가 확률 함수인 설정에서의 인과 발견을 다룬다. 이 주제에 대한 기존 연구는 선형성 또는 비선형성과 같은 구조적 가정, 가우스성 또는 비가우스성과 같은 분포 가정에 의존한다. 이와 달리 우리는 이러한 가정을 피하기 위해 공분산 연산자(covariance operator)를 활용한다. 함수적 가산 노이즈 모델(functional additive noise model) 하에서, 조건부 공분산 연산자의 노름(norm)을 비교하는 것에 기반하여 유효한 위상 순서(topological ordering)를 식별하기 위한 새로운 충분 조건을 제안한다. 이 식별 가능성(identifiability) 조건을 활용하여, 선형 및 비선형 모델을 포괄하는 새로운 혼합 회귀 모델을 개발한다. 변수 선택과 함께, 우리의 절차는 함수 변수(functional variable)에 대한 인과 방향성 비순환 그래프(DAG)의 추정을 산출한다. 이론적으로, 이 회귀 모델에 대한 최소자승(least-squares) 유형 이론을 개발하고, 순서 결정(order determination), 희소 회귀(sparse regression), DAG 식별에 대한 점근적 일치성(asymptotic consistency)을 도출한다. 이산 관측(discrete observation)에 기반한 계산 알고리즘을 제공한다. 시뮬레이션 데이터에 적용했을 때, 우리의 접근법은 기존 방법들 가운데 만족스러운 성능을 보인다. 뇌 유효 연결성(brain effective connectivity)에 대한 실제 데이터 예제도 제시한다.
AutoCluster, AutoTopicModeling, AutoTrendAnalysis: 신흥 트렌드 예측을 위한 완전한 AutoML 파이프라인
AutoCluster, AutoTopicModeling, AutoTrendAnalysis: A Complete AutoML Pipeline for Predicting Emerging Trends
신흥 트렌드 예측은 기업, 연구자, 정책 입안자에게 필수적이지만, 기존 접근법은 종종 확장성과 적응성이 부족하다. 본 논문은 시간 속성을 갖는 텍스트 데이터셋에서 통찰을 추출하도록 설계된 자동 머신러닝(AutoML) 기반 트렌드 예측 프레임워크를 제시한다. 시스템은 날짜 필드가 동반된 주제별 텍스트 항목을 입력으로 받는다. 파이프라인은 전처리와 임베딩으로 시작하며, 이어서 메타학습(meta-learning)을 사용해 최적의 클러스터링 알고리즘을 선택하는 AutoClustering이 수행된다. AutoTopicModeling은 successive halving을 적용하여 각 클러스터의 coherence score를 기준으로 Latent Dirichlet Allocation (LDA), Latent Semantic Analysis (LSA), BERTopic, 또는 Non-negative Matrix Factorization (NMF) 중 최적의 토픽 모델링 방법을 식별한다. 트렌드 예측을 위해 AutoTrendAnalysis는 Facebook Prophet, 자기회귀 통합 이동평균(AutoRegressive Integrated Moving Average, ARIMA), Loess를 이용한 계절-트렌드 분해(Seasonal-Trend decomposition using Loess, STL), 장단기 메모리(Long Short-Term Memory, LSTM) 등 여러 모델을 평가하며, successive halving 또는 전수 비교를 통해 평균 제곱근 오차(Root Mean Square Error, RMSE)를 기준으로 가장 정확한 모델을 선택한다. 토픽은 예측 결과에 따라 강한 신호, 약한 신호, 또는 노이즈로 분류되어 신흥 트렌드를 식별할 수 있다. 클러스터링, 토픽 모델링, 시계열 예측을 자동화함으로써 본 연구는 수작업을 줄이면서 트렌드 예측 정확도를 향상시킨다. 제안 시스템은 실시간 응용과 머신러닝 전문성이 제한된 이해관계자에게 적합한 확장 가능하고 사용하기 쉬운 솔루션을 제공한다. 실험 결과, 제안 시스템의 최적 시행은 최종 RMSE 7.099를 달성하여 높은 예측 정확도를 보여준다.
Grassmann 다양체 상의 정규화 최적화: 이론, 알고리즘 및 응용
Regularized Optimization on Grassmann Manifold: Theory, Algorithm and Applications
스펙트럴 방법은 커뮤니티 탐지, 클러스터링, 그래프 학습에서 가장 널리 사용되는 기법 중 하나이다. 그러나 그 성능은 근본적인 스펙트럴 부분공간의 정확한 추정에 크게 의존하며, 노이즈, 이상치, 또는 모델 교란이 존재할 경우 상당히 악화될 수 있다. 이 한계를 해결하기 위해, 우리는 rank-$K$ 투영 행렬의 강건한 추정을 위한 정규화 투영 행렬 근사(Regularized Projection Matrix Approximation, RPMA) 프레임워크를 제안한다. RPMA는 정규화 항을 통합하여 고전적인 스펙트럴 투영을 확장하며, 더 강건하고 희소하며 해석 가능한 투영 추정치를 생성한다. 우리는 제안된 모델을 rank-$K$ 투영 행렬의 다양체 상의 최적화 문제로 공식화하고, Grassmann 다양체와의 기하학적 동등성을 활용한다. 이 다양체 특성화를 바탕으로, 1차 및 2차 최적성 조건을 유도하고, 정규화된 선행 고유공간의 국소 안정성을 확립하며, 충분히 작은 정규화 하에서 임계점 경관의 안정성을 특성화한다. 결과적인 비볼록 최적화 문제를 효율적으로 풀기 위해, 역추적 선 탐색(backtracking line search)을 갖춘 Riemann 그래디언트 투영 알고리즘과, 반복적인 고유값 분해를 피하는 보다 효율적인 Cayley--Sherman--Morrison--Woodbury(Cayley--SMW) 그래디언트 방법을 개발한다. 합성 및 실제 데이터셋에 대한 광범위한 실험은 RPMA가 투영 행렬의 복원 정확도를 크게 향상시키며, 노이즈가 있는 환경에서 커뮤니티 탐지 및 클러스터링을 위한 기존 스펙트럴 투영 방법보다 일관되게 우수한 성능을 보임을 입증한다.
CASC: 다변량 시공간 데이터를 위한 인과적 적대적 부분공간 클러스터링
CASC: Causal Adversarial Subspace Clustering for Multivariate Spatiotemporal Data
깊은 부분공간 클러스터링(deep subspace clustering)은 해빙 모니터링, 질병 확산 분석, 시간에 따른 신경 퇴행 추적 등 다변량 시공간 데이터를 다루는 응용에서 중요한 역할을 한다. 최근의 발전에도 불구하고, 기존 방법은 주로 기하학적 자기표현성(self-expressiveness)에 의존하며 정적인 부분공간 구조를 가정하고, 복잡한 시공간 시스템에 내재된 인과적 의존성, 국소적 공간 상호작용, 장거리 시간 역학을 포착하지 못하는 경우가 많다. 이러한 한계를 해결하기 위해, 고차원 시공간 데이터에서 진화하는 잠재 체제(latent regime)를 발견하기 위한 새로운 인과적 적대적 부분공간 클러스터링(CASC) 프레임워크를 제안한다. CASC는 공간 및 시간 구조를 보존하면서 강건한 잠재 표현을 학습하기 위해 U-Net에서 영감을 받은 깊은 적대적 클러스터링 아키텍처와 적층 FAConvLSTM 레이어를 통합한다. 국소적 공간 관계, 전역적 의존성, 장거리 시간 상호작용을 공동으로 모델링하기 위해 그래프 어텐션 트랜스포머 기반 자기표현 네트워크를 도입한다. 또한 두 가지 새로운 학습 목표를 제안한다: (1) 자기표현 계수를 잠재 인과 관계와 정렬하여 클러스터가 단순한 특징 유사성이 아닌 근본적인 인과 과정을 반영하도록 유도하는 인과적 부분공간 보존 손실(Causal Subspace Preservation Loss), (2) 비정상(nonstationary) 환경에서 진화하는 부분공간 구조와 시간적 체제 전환을 포착하는 동적 시간 부분공간 진화 손실(Dynamic Temporal Subspace Evolution Loss). 이러한 구성 요소들은 함께 깊은 부분공간 클러스터링을 상관관계 중심 패러다임에서 인과-시간 체제 발견 프레임워크로 전환한다.
Metropolis-Hastings 확산 거리를 통한 공간적 군집 측정
Measuring Spatial Clustering via Metropolis-Hastings Diffusion Distance
그래프 상의 두 확률 분포 $f$와 $g$ 사이의 불일치를 측정하는 새로운 척도를 제안한다. 이를 확산 거리(diffusion distance)라 부르며, 정상 분포가 $g$인 그래프 제약 마르kov 체인 하에서 $f$가 $g$로 수렴하는 속도를 측정한다. 이 마르kov 체인의 기본 선택으로, 그래프 위의 랜덤 워크로 제안을 주고 $g$를 목표로 하는 Metropolis-Hastings 전이 행렬을 사용한다. 관심의 주요 경우는 두 번째 분포 $g$가 균일 분포일 때이며, 이때 확산 거리는 $f$의 공간적 군집을 측정하는 척도가 된다. 이렇게 사용할 때, (Metropolis-Hastings) 균일성에 대한 확산 거리는 단순히 국소적 패턴뿐 아니라 전역 그래프 기하를 반영함으로써 Moran's $I$ 유형의 공간적 자기상관 척도를 확장한다. 실제로 가장 잘 알려진 공간적 자기상관 척도인 Moran's $I$는 특정 공간 가중치를 사용하는 한 확산 거리에 대한 1단계 휴리스틱으로 볼 수 있다. 우리는 이 척도에 대한 이론적 상·하한과 안정성 결과를 정립하며, 이를 그래프 스펙트럼과 최적 수송(optimal transport)에 연결한다. 이어서 확산 거리를 이용한 공간적 군집에 대한 통계적 검정을 개략적으로 제시한다. 순열 null 모델 하에서, 분포 수렴에 대한 정확한 스펙트럼 공식에 기반한 확산 거리의 고확률 상·하한을 도출하여 대규모 데이터셋에서 공간적 군집에 대한 효율적인 통계적 검정을 가능하게 한다. 확산 거리를 Moran's $I$와 수치적 척도 및 통계적 검정 모두의 관점에서 경험적으로 비교한다. 확률적 블록 모델(stochastic block model)을 이용한 합성 데이터에서 확산 거리가 더 높은 검정력을 보임을 보인다. 미국 100개 도시의 흑인 인구 분포에 대한 경험적 분석은 확산 거리가 Moran's $I$가 포착하지 못하는 도시 분리(segregation) 패턴의 미묘한 차이를 탐지함을 보여준다.
Neighbor group structure preserving based consensus graph learning for incomplete multi-view clustering
토론
이 논문과 연결된 포럼 글이 아직 없습니다.