PyTorchKR Papers

최신 논문

총 5편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2509.12889v5math.ST

연속 희소 정규화를 통한 미지 대각 공분산 가우시안 혼합 모델

Gaussian Mixture Model with unknown diagonal covariances via continuous sparse regularization

본 논문은 독립동일분포(i.i.d.) 표본으로부터 미지 대각 공분산을 갖는 가우시안 혼합 모델(GMM)의 통계적 추정 문제를 다룬다. 우리는 측도 공간에서 희소성을 촉진하는 볼록 최적화 프레임워크인 Beurling-LASSO(BLASSO)를 사용하여 성분 개수와 그 매개변수를 동시에 추정한다. 본 연구의 주요 기여는 BLASSO 방법론을 성분별 미지 대각 공분산 행렬을 갖는 다변량 GMM으로 확장하는 것이다. 이 설정은 공분산이 알려져 있고 동일하다고 가정했던 기존 접근법보다 훨씬 더 유연하다. 우리는 성분 평균, 대각 공분산, 가중치 및 밀도 예측에 대해 거의 모수적 수렴 속도를 갖는 비점근적 회복 보장을 확립한다. 핵심 이론적 기여는 BLASSO에 대한 통계적 보장을 확립하는 데 필수적인 도구인 비퇴화(non-degenerate) dual certificate를 구성할 수 있게 하는 혼합 성분에 대한 명시적 분리(separation) 조건의 식별이다. 우리의 분석은 통계 모델의 Fisher-Rao 기하를 활용하고 본 프레임워크에 맞춘 새로운 반거리(semi-distance)를 도입하여, 성분 분리, 매개변수 공간 기하, 달성 가능한 통계적 회복 사이의 상호작용에 대한 새로운 통찰을 제공한다.

arXiv:2004.05813v3cs.DS

가우시안 혼합 학습을 위한 푸리에 해석적 접근법

A Fourier analytique approach to Gaussian mixture learning

최대 $k$개의 $d$차원 구형 가우시안 분포 $μ_1,\cdots,μ_{k_0}$의 혼합으로부터 독립 동일 분포를 따르는 임의의 표본 $x_1,\cdots,x_n$이 주어진다고 가정하자. 각 좌표에서의 분산은 동일하고 알려진 $σ^2$이며, 서로 다른 두 중심 $y_l$과 $y_j$ 사이의 최소 $\ell^2$ 거리는 $2Δσ\min\{\sqrt{d},\sqrt k\}$보다 크고, $Δ>C_0$이며 $C_0$은 충분히 큰 범용 상수이다. 우리는 가중치가 균일하다고 알려진 경우, 임의로 많은 수의 성분과 임의의 차원에서 가우시안 성분의 중심 $y_l$들을 $\ell^2$ 거리 $k^{-\tilde C_0}$ 이내로 학습하는 무작위화 알고리즘을 개발한다. 또한 성분의 수가 $k=Ω(2^d)$인 경우, 임의의 범용 상수 $c>0$에 대해 미지의 가중치에 대해서도, 가중치가 $[c/k,1/ck]$에 속하고 최소 분리 거리가 $2c\sqrt d$인 조건 하에서, 알고리즘은 $1-\exp(-k/c)$보다 큰 확률로 중심들을 $\ell^2$ 거리 $d^{-\tilde C_0}$ 이내로, 그리고 가중치를 $cw_{min}$의 정확도로 학습한다. 두 경우 모두 표본 수와 계산 시간은 $\mathrm{poly}(k,d)$로 위에서 유계된다. 이와 같은 표본 및 계산 복잡도 경계는 비상수 차원 체계, 특히 $d$가 $O(1)$이 아닌 경우에서는 이전에 알려지지 않은 결과이다. $d=O(1)$인 경우에는 이 복잡도 경계가 Regev와 Vijayaraghavan의 연구로부터 도출되며, 해당 연구에서는 $d$가 $Θ(\log k)$일 때 $d$차원에서 반지름 $o(\sqrt{d})$인 공 안에 있는 가우시안 임의 혼합의 학습에 필요한 표본 복잡도가 $k,d$에 대해 초다항식 이상임도 증명되었는데, 이는 해당 경우에 우리의 결과가 타이트함을 보여 준다.

arXiv:2607.06094v1cs.LG

Modeling Normal Is All You Need: Joint Latent Clustering for Anomaly Detection in Multimodal Cyber-Physical Systems

Faults on a cyber-physical system (CPS) are too rare and unrepresentative to characterise, or even to select a model on, so detection must instead model normal behaviour; the standard point-adjusted evaluation, however, rewards detectors that never do. CPS normal behaviour is the union of many imbalanced, curved, thin-fringed operating regimes rather than a single blob; we state this structure as ten assumptions (A1-A10), abbreviated Massive, Implicit, Imbalanced Multimodality (MIIM). We model the normal law with a jointly learned latent representation plus explicit Gaussian-mixture mode clustering, scored in the latent rather than by a global density or a reconstruction residual, and evaluate under a deliberately fair protocol: raw point-wise metrics with no point adjustment, a trivial-detector difficulty split, prevalence-matched F1, and train-normal-only calibration. On three real CPS datasets (WADI, HAI, SKAB), the detector wins both the combined column and the difficult correlation/dynamics-fault column on all three, reaching difficult-subset AUROC 0.831 on HAI, 0.726 on WADI, and 0.610 on SKAB. The margin is largest on the two multimodal datasets the MIIM assumptions target and slimmest on the near-unimodal one, tracking multimodality as the thesis predicts, and it holds against three deep detectors (USAD, TranAD, GDN) re-computed with the same raw metrics, all of which collapse on the difficult subset. The methodological contributions are the MIIM assumption set, the difficulty-stratified fair protocol, and a latent-only score that drops reconstruction because a flexible decoder rebuilds the hard faults faithfully.

arXiv:2401.10927v3stat.ML

MAXCUT 기반 클러스터링을 위한 반정치 프로그래밍 완화 및 편향 제거

Semidefinite programming relaxations and debiasing for MAXCUT-based clustering

MAXCUT 기반 클러스터링 문제에서 반정치 프로그래밍(SDP) 완화를 분석하는 통합 프레임워크를 제시하며, SDP1, BalancedSDP, 스펙트럴 클러스터링 세 알고리즘에 대한 보편적 오분류 보장과 SNR $s^2$에 대한 지수적 오차 감소를 최초로 증명했다. 특히 균형 분할 시 BalancedSDP는 명시적 편향 제거 없이도 우수한 성능을 달성하며, 데이터 행렬의 전역 중심화(global centering)가 이론적 분석의 핵심 역할을 한다.

arXiv:2606.11737v1astro-ph.EP

근접 외계 행성 모집단의 머신러닝 클러스터링: 자갈 성장과의 연관성

Machine-learning clustering of close-in exoplanet populations: links to pebble accretion

근접 외계 행성들은 형성 조건과 이동 과정에 의해 형성된 궤도 구조와 물리적 특성의 다양한 범위를 보여줍니다. 모집단 합성 모델이 뚜렷한 행성 모집단을 예측하지만, 관측된 외계 행성과 합성 모집단 간의 정량적 연결을 확립하는 것은 여전히 어렵습니다. 우리는 물리적 근거에 기반한 동역학적 매개변수를 사용하여 근접 외계 행성의 내재적 조직을 조사하고, 결과로 나온 모집단을 자갈 성장 형성 경로와 연결합니다. 2단계 가우시안 혼합 모델(GMM)을 근접 외계 행성의 관측 샘플에 적용하여, 행성-별 상호작용의 동역학적 기술자가 지배하는 특징 공간에서 비지도 확률적 클러스터링을 수행합니다. 결과 클러스터는 통계적 근거에 기반한 3차원 매개변수 공간 내에서 자갈 성장 합성 모집단에 매핑됩니다. 그런 다음 가스 이용 가능성, 가스 비율, 얼음-암석 질량비를 포함한 형성 관련 양을 사용하여 매핑된 모집단을 해석합니다. 우리는 미리 정의된 분류 경계를 강요하지 않고, 매우 거대한 가스 거성, 뜨거운 거성, 온난 목성 지배 시스템, 저질량 거성을 포함하여 통계적으로 지지되는 하위 모집단을 식별합니다. 매핑된 합성 모집단은 형성 시기, 가스 성장, 고체 성장 이력에서 체계적인 차이를 보여줍니다. 특히, 매우 거대한 가스 거성은 뜨거운 거성 및 온난 목성 지배 모집단보다 이른 형성 시기와 선호적으로 연관됩니다. 이러한 결과는 물리적 근거에 기반한 머신러닝 접근 방식이 관측된 외계 행성 모집단을 이론적 행성 형성 경로와 연결하기 위한 통계적으로 견고한 프레임워크를 제공할 수 있음을 보여줍니다.