arXiv:1501.03347

Dirichlet Process Parsimonious Mixtures for clustering

Faicel Chamroukhi, Marius Bartcus, Hervé Glotin

제출 2015-01-14

원문 초록

The parsimonious Gaussian mixture models, which exploit an eigenvalue decomposition of the group covariance matrices of the Gaussian mixture, have shown their success in particular in cluster analysis. Their estimation is in general performed by maximum likelihood estimation and has also been considered from a parametric Bayesian prospective. We propose new Dirichlet Process Parsimonious mixtures (DPPM) which represent a Bayesian nonparametric formulation of these parsimonious Gaussian mixture models. The proposed DPPM models are Bayesian nonparametric parsimonious mixture models that allow to simultaneously infer the model parameters, the optimal number of mixture components and the optimal parsimonious mixture structure from the data. We develop a Gibbs sampling technique for maximum a posteriori (MAP) estimation of the developed DPMM models and provide a Bayesian model selection framework by using Bayes factors. We apply them to cluster simulated data and real data sets, and compare them to the standard parsimonious mixture models. The obtained results highlight the effectiveness of the proposed nonparametric parsimonious mixture models as a good nonparametric alternative for the parametric parsimonious models.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.26748v1stat.ME공통 태그 Clustering, Model Selection

$\beta$-통합 지역 깊이와 적응형 그룹화를 통한 자동 깊이 기반 로컬 중심 클러스터링

Automatic depth-based local center clustering via $\beta$-integrated local depth and adaptive grouping

클러스터링은 레이블이 없는 데이터를 여러 그룹으로 분할하는 비지도 학습 기법이다. 기존 대부분의 방법은 클러스터 수나 이웃 크기와 같이 사용자가 지정해야 하는 매개변수를 요구한다. 반면 우리는 수치적 매개변수 조정을 없애는 완전히 데이터 주도적인 방법인 automatic depth-based local center clustering(A-DLCC)을 제안한다. A-DLCC는 $\beta$-integrated local depth를 사용하여 여러 지역성 수준에서 일관되게 중심에 있는 점, 즉 안정적 exemplar인 local center를 식별하고, 이들을 대표성(representativeness)에 따라 순위화한다. 각 local center는 유사한 점들의 그룹을 유도하며, 그룹 수준 유사도는 제안한 비모수적 지표인 group-level local similarity로 측정한다. 병합을 안내하기 위해 그래프 이론의 bottleneck path 개념을 통합하며, 이는 우리의 적응형 병합 기준의 기반이 된다. 이 기준에 따라 그룹이 자기 자신보다 더 잘 도달하는 이웃에 흡수되거나, 양쪽 모두가 각자의 배경보다 더 도달 가능하다고 보는 이웃과 결합되는 단일 점진적 병합(agglomeration) 규칙을 설계한다. 모든 병합은 추가로 configuration-model null이 기대하는 것보다 강한 접촉(contact)에 의해 이루어져야 한다. 이 규칙은 클러스터 수를 자동으로 추정하고 병합을 중단할 시점을 결정한다. 합성 데이터와 실제 데이터에 대한 실험은 A-DLCC가 매개변수 조정 없이 해석 가능한 클러스터링 결과를 생성함을 보여준다.

arXiv:2607.22641v1cs.DL공통 태그 Clustering, Model Selection

AutoCluster, AutoTopicModeling, AutoTrendAnalysis: 신흥 트렌드 예측을 위한 완전한 AutoML 파이프라인

AutoCluster, AutoTopicModeling, AutoTrendAnalysis: A Complete AutoML Pipeline for Predicting Emerging Trends

신흥 트렌드 예측은 기업, 연구자, 정책 입안자에게 필수적이지만, 기존 접근법은 종종 확장성과 적응성이 부족하다. 본 논문은 시간 속성을 갖는 텍스트 데이터셋에서 통찰을 추출하도록 설계된 자동 머신러닝(AutoML) 기반 트렌드 예측 프레임워크를 제시한다. 시스템은 날짜 필드가 동반된 주제별 텍스트 항목을 입력으로 받는다. 파이프라인은 전처리와 임베딩으로 시작하며, 이어서 메타학습(meta-learning)을 사용해 최적의 클러스터링 알고리즘을 선택하는 AutoClustering이 수행된다. AutoTopicModeling은 successive halving을 적용하여 각 클러스터의 coherence score를 기준으로 Latent Dirichlet Allocation (LDA), Latent Semantic Analysis (LSA), BERTopic, 또는 Non-negative Matrix Factorization (NMF) 중 최적의 토픽 모델링 방법을 식별한다. 트렌드 예측을 위해 AutoTrendAnalysis는 Facebook Prophet, 자기회귀 통합 이동평균(AutoRegressive Integrated Moving Average, ARIMA), Loess를 이용한 계절-트렌드 분해(Seasonal-Trend decomposition using Loess, STL), 장단기 메모리(Long Short-Term Memory, LSTM) 등 여러 모델을 평가하며, successive halving 또는 전수 비교를 통해 평균 제곱근 오차(Root Mean Square Error, RMSE)를 기준으로 가장 정확한 모델을 선택한다. 토픽은 예측 결과에 따라 강한 신호, 약한 신호, 또는 노이즈로 분류되어 신흥 트렌드를 식별할 수 있다. 클러스터링, 토픽 모델링, 시계열 예측을 자동화함으로써 본 연구는 수작업을 줄이면서 트렌드 예측 정확도를 향상시킨다. 제안 시스템은 실시간 응용과 머신러닝 전문성이 제한된 이해관계자에게 적합한 확장 가능하고 사용하기 쉬운 솔루션을 제공한다. 실험 결과, 제안 시스템의 최적 시행은 최종 RMSE 7.099를 달성하여 높은 예측 정확도를 보여준다.

arXiv:2607.14297v1stat.ME공통 태그 Clustering, Model Selection

비대칭 쌍선형 요인 분석기의 절약적 혼합 모형

Parsimonious Mixtures of Skewed Bilinear Factor Analyzers

비대칭 무작위 행렬을 군집화하는 혼합 모형은 차원 축소를 수행하지 않을 경우 과매개변수화 문제를 자주 겪을 수 있다. 쌍선형 요인 분석기를 사용하더라도, 군집 간 매개변수에 제약을 가함으로써 추가적인 매개변수 축소를 달성할 수 있다. 본 원고에서는 비대칭 행렬 변량 쌍선형 요인 분석기 혼합 모형에 대한 256개 모형으로 구성된 절약적 모형군을 제안하며, 특히 skew-t 분포의 경우를 다룬다. 매개변수 추정을 위한 AECM 알고리즘이 상세히 논의된다. 또한 광범위한 시뮬레이션이 수행되었으며, 본 방법은 MNIST 데이터셋과 Olivetti faces 데이터셋에 적용된다.

arXiv:2607.05420v2cs.DL공통 태그 Clustering

AI가 분류할 때: 공공행정이란 무엇인가?

When AI Classifies: What Counts as Public Administration?

본 연구는 학술 표현의 대안적 체계들이 행정학(PA)과 인공지능 관련 행정학(AI-in-PA) 학술 연구를 어떻게 식별하고 특징짓는지를 고찰한다. 핵심 질문은 어떤 체계가 행정학에 대한 확정적 분류를 제공하는가가 아니라, 학술 분류의 대안적 체계들이 행정학의 지적 경계를 식별하고 표현하는 방식에서 어떻게 다른가이다. 본 연구는 Web of Science와 OpenAlex에 대한 탐색적·비교 분석을 통해 저자 정의 방식, 인용 기반 방식, AI 지원 방식의 표현에 기초한 다섯 가지 접근법을 비교한다. 분석 결과는 말뭉치 규모, 출판 유형, DOI 이용 가능성, 출판 매체, 시간적 양상, 주제 구조에서 상당한 차이와 제한적인 중복이 있음을 보여 준다. 대안적 접근법들은 동일한 문헌의 더 크거나 더 작은 부분집합을 식별하는 데 그치지 않고 실질적으로 서로 다른 학술 집합을 식별하기 때문에 서로 구별되는 표현을 만들어 내는 경향이 있다. 연구 결과는 알고리즘에 의한 지식 조직화가 학제 간 학술 연구가 분류되고 연결되고 이해되는 방식에, 그리고 인식론적으로는 그 가시성, 구조, 지적 정체성이 표현되는 방식에 영향을 미침을 시사한다. AI 기반 학술 분류는 중립적이지 않고 해석적이며 잠재적으로 자기강화적이어서 학문 분야 경계의 진화와 적응을 제약할 수 있다. 따라서 인간 전문가의 판단은 여전히 필수적이며, AI 지원 학술 분류에 의해 대체되기보다는 보완된다.

arXiv:2607.21426v2cs.LG공통 태그 Clustering

건설적·협력적 멀티태스킹을 위한 의미 인식 태스크 클러스터링

Semantic-Aware Task Clustering for Constructive and Cooperative Multi-Tasking

협력적 멀티태스크 의미 통신(cooperative multi-task semantic communication, CMT-SemCom)은 공유 표현을 활용하여 태스크 실행 성능을 향상시킨다. 그러나 [1]에서 보인 바와 같이, 협력적 멀티태스킹은 태스크 간 의미적 관계에 따라 건설적일 수도 있고 파괴적일 수도 있다. 건설적 협력을 보장하기 위해, 우리는 CMT-SemCom을 위한 의미 인식 태스크 클러스터링 방법을 제안한다. 짧은 초기 학습 단계 이후 의미적으로 정렬된 태스크가 한 번 클러스터링되고, 이후 발견된 그룹 내에서만 엔드투엔드(end-to-end, E2E) 공동 학습이 수행되는 순차적 다단계 최적화 문제를 수식화했다. 구체적으로, 이 문제는 두 단계로 분해된다: (i) 계층적 밀도 기반 공간 클러스터링(hierarchical density-based spatial clustering)을 활용한 의미 클러스터링 문제, (ii) 클러스터 내 E2E CMT-SemCom 학습 문제. 시뮬레이션 결과는 제안된 프레임워크가 파괴적 협력과 부정적 전이(negative transfer)를 효과적으로 완화하며, 클러스터링되지 않은 멀티태스킹 및 개별 학습 기준선 대비 정확도 향상을 달성함을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.