arXiv:2003.00129

Determination of Latent Dimensionality in International Trade Flow

Duc P. Truong, Erik Skau, Vladimir I. Valtchinov, Boian S. Alexandrov

제출 2020-02-29

원문 초록

Currently, high-dimensional data is ubiquitous in data science, which necessitates the development of techniques to decompose and interpret such multidimensional (aka tensor) datasets. Finding a low dimensional representation of the data, that is, its inherent structure, is one of the approaches that can serve to understand the dynamics of low dimensional latent features hidden in the data. Nonnegative RESCAL is one such technique, particularly well suited to analyze self-relational data, such as dynamic networks found in international trade flows. Nonnegative RESCAL computes a low dimensional tensor representation by finding the latent space containing multiple modalities. Estimating the dimensionality of this latent space is crucial for extracting meaningful latent features. Here, to determine the dimensionality of the latent space with nonnegative RESCAL, we propose a latent dimension determination method which is based on clustering of the solutions of multiple realizations of nonnegative RESCAL decompositions. We demonstrate the performance of our model selection method on synthetic data and then we apply our method to decompose a network of international trade flows data from International Monetary Fund and validate the resulting features against empirical facts from economic literature.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.26748v1stat.ME공통 태그 Clustering, Model Selection

$\beta$-통합 지역 깊이와 적응형 그룹화를 통한 자동 깊이 기반 로컬 중심 클러스터링

Automatic depth-based local center clustering via $\beta$-integrated local depth and adaptive grouping

클러스터링은 레이블이 없는 데이터를 여러 그룹으로 분할하는 비지도 학습 기법이다. 기존 대부분의 방법은 클러스터 수나 이웃 크기와 같이 사용자가 지정해야 하는 매개변수를 요구한다. 반면 우리는 수치적 매개변수 조정을 없애는 완전히 데이터 주도적인 방법인 automatic depth-based local center clustering(A-DLCC)을 제안한다. A-DLCC는 $\beta$-integrated local depth를 사용하여 여러 지역성 수준에서 일관되게 중심에 있는 점, 즉 안정적 exemplar인 local center를 식별하고, 이들을 대표성(representativeness)에 따라 순위화한다. 각 local center는 유사한 점들의 그룹을 유도하며, 그룹 수준 유사도는 제안한 비모수적 지표인 group-level local similarity로 측정한다. 병합을 안내하기 위해 그래프 이론의 bottleneck path 개념을 통합하며, 이는 우리의 적응형 병합 기준의 기반이 된다. 이 기준에 따라 그룹이 자기 자신보다 더 잘 도달하는 이웃에 흡수되거나, 양쪽 모두가 각자의 배경보다 더 도달 가능하다고 보는 이웃과 결합되는 단일 점진적 병합(agglomeration) 규칙을 설계한다. 모든 병합은 추가로 configuration-model null이 기대하는 것보다 강한 접촉(contact)에 의해 이루어져야 한다. 이 규칙은 클러스터 수를 자동으로 추정하고 병합을 중단할 시점을 결정한다. 합성 데이터와 실제 데이터에 대한 실험은 A-DLCC가 매개변수 조정 없이 해석 가능한 클러스터링 결과를 생성함을 보여준다.

arXiv:2607.22641v1cs.DL공통 태그 Clustering, Model Selection

AutoCluster, AutoTopicModeling, AutoTrendAnalysis: 신흥 트렌드 예측을 위한 완전한 AutoML 파이프라인

AutoCluster, AutoTopicModeling, AutoTrendAnalysis: A Complete AutoML Pipeline for Predicting Emerging Trends

신흥 트렌드 예측은 기업, 연구자, 정책 입안자에게 필수적이지만, 기존 접근법은 종종 확장성과 적응성이 부족하다. 본 논문은 시간 속성을 갖는 텍스트 데이터셋에서 통찰을 추출하도록 설계된 자동 머신러닝(AutoML) 기반 트렌드 예측 프레임워크를 제시한다. 시스템은 날짜 필드가 동반된 주제별 텍스트 항목을 입력으로 받는다. 파이프라인은 전처리와 임베딩으로 시작하며, 이어서 메타학습(meta-learning)을 사용해 최적의 클러스터링 알고리즘을 선택하는 AutoClustering이 수행된다. AutoTopicModeling은 successive halving을 적용하여 각 클러스터의 coherence score를 기준으로 Latent Dirichlet Allocation (LDA), Latent Semantic Analysis (LSA), BERTopic, 또는 Non-negative Matrix Factorization (NMF) 중 최적의 토픽 모델링 방법을 식별한다. 트렌드 예측을 위해 AutoTrendAnalysis는 Facebook Prophet, 자기회귀 통합 이동평균(AutoRegressive Integrated Moving Average, ARIMA), Loess를 이용한 계절-트렌드 분해(Seasonal-Trend decomposition using Loess, STL), 장단기 메모리(Long Short-Term Memory, LSTM) 등 여러 모델을 평가하며, successive halving 또는 전수 비교를 통해 평균 제곱근 오차(Root Mean Square Error, RMSE)를 기준으로 가장 정확한 모델을 선택한다. 토픽은 예측 결과에 따라 강한 신호, 약한 신호, 또는 노이즈로 분류되어 신흥 트렌드를 식별할 수 있다. 클러스터링, 토픽 모델링, 시계열 예측을 자동화함으로써 본 연구는 수작업을 줄이면서 트렌드 예측 정확도를 향상시킨다. 제안 시스템은 실시간 응용과 머신러닝 전문성이 제한된 이해관계자에게 적합한 확장 가능하고 사용하기 쉬운 솔루션을 제공한다. 실험 결과, 제안 시스템의 최적 시행은 최종 RMSE 7.099를 달성하여 높은 예측 정확도를 보여준다.

arXiv:2607.14297v1stat.ME공통 태그 Clustering, Model Selection

비대칭 쌍선형 요인 분석기의 절약적 혼합 모형

Parsimonious Mixtures of Skewed Bilinear Factor Analyzers

비대칭 무작위 행렬을 군집화하는 혼합 모형은 차원 축소를 수행하지 않을 경우 과매개변수화 문제를 자주 겪을 수 있다. 쌍선형 요인 분석기를 사용하더라도, 군집 간 매개변수에 제약을 가함으로써 추가적인 매개변수 축소를 달성할 수 있다. 본 원고에서는 비대칭 행렬 변량 쌍선형 요인 분석기 혼합 모형에 대한 256개 모형으로 구성된 절약적 모형군을 제안하며, 특히 skew-t 분포의 경우를 다룬다. 매개변수 추정을 위한 AECM 알고리즘이 상세히 논의된다. 또한 광범위한 시뮬레이션이 수행되었으며, 본 방법은 MNIST 데이터셋과 Olivetti faces 데이터셋에 적용된다.

arXiv:2607.21426v2cs.LG공통 태그 Clustering

건설적·협력적 멀티태스킹을 위한 의미 인식 태스크 클러스터링

Semantic-Aware Task Clustering for Constructive and Cooperative Multi-Tasking

협력적 멀티태스크 의미 통신(cooperative multi-task semantic communication, CMT-SemCom)은 공유 표현을 활용하여 태스크 실행 성능을 향상시킨다. 그러나 [1]에서 보인 바와 같이, 협력적 멀티태스킹은 태스크 간 의미적 관계에 따라 건설적일 수도 있고 파괴적일 수도 있다. 건설적 협력을 보장하기 위해, 우리는 CMT-SemCom을 위한 의미 인식 태스크 클러스터링 방법을 제안한다. 짧은 초기 학습 단계 이후 의미적으로 정렬된 태스크가 한 번 클러스터링되고, 이후 발견된 그룹 내에서만 엔드투엔드(end-to-end, E2E) 공동 학습이 수행되는 순차적 다단계 최적화 문제를 수식화했다. 구체적으로, 이 문제는 두 단계로 분해된다: (i) 계층적 밀도 기반 공간 클러스터링(hierarchical density-based spatial clustering)을 활용한 의미 클러스터링 문제, (ii) 클러스터 내 E2E CMT-SemCom 학습 문제. 시뮬레이션 결과는 제안된 프레임워크가 파괴적 협력과 부정적 전이(negative transfer)를 효과적으로 완화하며, 클러스터링되지 않은 멀티태스킹 및 개별 학습 기준선 대비 정확도 향상을 달성함을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.