arXiv:2011.13694

Clustering with missing data: which equivalent for Rubin's rules?

Vincent Audigier, Ndèye Niang

제출 2020-11-27

원문 초록

Multiple imputation (MI) is a popular method for dealing with missing values. However, the suitable way for applying clustering after MI remains unclear: how to pool partitions? How to assess the clustering instability when data are incomplete? By answering both questions, this paper proposed a complete view of clustering with missing data using MI. The problem of partitions pooling is here addressed using consensus clustering while, based on the bootstrap theory, we explain how to assess the instability related to observed and missing data. The new rules for pooling partitions and instability assessment are theoretically argued and extensively studied by simulation. Partitions pooling improves accuracy, while measuring instability with missing data enlarges the data analysis possibilities: it allows assessment of the dependence of the clustering to the imputation model, as well as a convenient way for choosing the number of clusters when data are incomplete, as illustrated on a real data set.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.20909v1eess.SP공통 태그 Clustering, Imputation

RadioTrace: 배포 시점 미세조정 없는 송신기 인식 확산 기반 라디오 맵 추정

RadioTrace: Transmitter-Aware Diffusion for Radio Map Estimation without Deployment-Time Fine-Tuning

라디오 맵(RM) 추정은 희소 측정값으로부터 수신 신호 강도(RSS)와 같은 무선 신호 특성의 공간 분포를 재구성하는 것을 목표로 하며, 이는 현대 무선 네트워크에서 스펙트럼 관리, 간섭 완화, 위치 추정에 핵심적인 과제이다. 전통적인 접근법인 보간법과 심층 학습은 복잡한 전파 효과를 포착하기 어렵거나, 새로운 샘플링 패턴마다 대규모 재학습이 필요하여 일반화 능력이 제한된다. 최근에는 사전 기반 방법들이 사전학습된 생성 모델과 측정값을 결합하여 배포 시점 모델 미세조정의 필요성을 줄이고 있으나, 일반적으로 사전 분포(prior)를 단순한 정규화(regularizer)로 취급하며 명시적인 송신기 인식 통합이 부족하다. 본 논문에서는 배포 시점 미세조정 없이 희소 RSS 측정값과 고정된 사전학습 확산 사전 분포를 긴밀히 통합하는 새로운 RM 추정 프레임워크인 RadioTrace를 제안한다. RadioTrace는 송신기(Tx) 위치 추정을 디노이징 루프에 직접 통합하여, 재구성 품질에 기반해 Tx 좌표를 반복적으로 정제함으로써 생성 과정을 안내한다. 견고성을 더욱 향상시키기 위해, Tx 업데이트에서 불량한 국소 최솟값을 완화하고 기하학적으로 일관된 시작점을 제공하는 전파 유도 K-means 초기화를 도입한다. 또한 Tx 좌표 정제 구성 요소에 대한 확률적 안정성 분석을 제공하여, Tx 업데이트가 확산 샘플링과 Tx-맵 완화(relaxation)에 의해 유발되는 섭동 하에서도 안정적으로 유지됨을 보인다. 광범위한 실험을 통해 RadioTrace가 무작위 샘플링 하에서 최첨단 학습 기반 방법들과 경쟁력 있는 성능을 달성하고, 제한 구역 샘플링 하에서도 강력한 재구성 품질을 유지함을 보여주며, 이는 적응성, 견고성, 실용적 관련성을 강조한다.

arXiv:2607.10413v1cs.CV공통 태그 Clustering, Imputation

SPORT: 불완전 다중 뷰 클러스터링을 위한 구조 인식 프로토타입 분리

SPORT: Structure-Aware Prototype Disentanglement for Incomplete Multi-View Clustering

프로토타입 기반 불완전 다중 뷰 클러스터링(Incomplete Multi-view Clustering)은 최근 누락 뷰 대체(missing-view imputation)를 위한 의미론적 앵커로 프로토타입을 활용함으로써 점점 더 많은 주목을 받고 있다. 그러나 기존 방법들은 세 가지 측면에서 여전히 한계를 지닌다. 첫째, 기존 방법들은 일반적으로 뷰 간 프로토타입 일관성을 강제하는 데 집중하면서 프로토타입에 내재된 뷰별 정보를 무시하여 다중 뷰 표현력을 제한한다. 둘째, 대부분의 방법은 뷰 간 쌍을 이루는 샘플만 정렬하는 인스턴스 수준의 대조 학습에 의존하여 클러스터 수준의 관계 구조를 보존하지 못한다. 셋째, 누락 뷰 대체는 대개 전역 프로토타입만을 사용하여 수행되며 지역 기하학적 이웃 구조를 고려하지 않아 누락 표현의 부정확한 복구로 이어진다. 이러한 한계를 해결하기 위해 우리는 SPORT(Structure-aware PrOtotype disentanglement foR incomplete multi-view clusTering)라는 새로운 프레임워크를 제안한다. SPORT는 클러스터 수준의 관계 구조를 보존하면서 프로토타입의 공유 구성요소와 뷰별 구성요소를 명시적으로 분리한다. 구체적으로, 프로토타입을 직교하는 공유 구성요소와 뷰별 구성요소로 분리하여 공유 구성요소만 정렬해 합의 의미론을 포착하고, 뷰별 구성요소는 비상관화하여 보완적 정보를 보존한다. 한편, 구조 인식 대조 학습 메커니즘을 도입하여 뷰 간 표현 학습 중에 클러스터 수준의 관계를 명시적으로 모델링한다. 나아가, 하이브리드 대체 전략은 전역 프로토타입 매칭과 지역 이웃 매칭을 통합하여 누락 뷰 복구를 위한 의미론적 프로토타입과 매니폴드 구조의 공동 활용을 가능하게 한다. 여섯 개의 벤치마크 데이터셋에 대한 광범위한 실험을 통해 SPORT가 다양한 누락률 조건에서 최신 방법들을 능가하는 우수한 성능을 달성함을 보여준다.

arXiv:2607.08579v1cs.HC공통 태그 Clustering, Imputation

ImputeViz: 결측 데이터 진단 및 대체 방법 비교를 위한 시각적 분석 대시보드

ImputeViz: A Visual Analytics Dashboard for Diagnosing Missing Data and Comparing Imputation Methods

결측 데이터는 과학, 사회과학, 공중보건 연구에서 지속적인 장애물로, 분석에 편향을 초래하고 결측값 처리 방식에 대한 책임을 분석가에게 부여한다. 우리는 결측성 진단, 대체 모델 구성, 결과 평가를 지원하는 통합 시각적 분석 대시보드인 ImputeViz를 소개한다. 이 시스템은 MICE, Random Forest, XGBoost, kNN을 포함한 널리 사용되는 방법들을 결측성 패턴을 명시적으로 드러내는 인터랙티브 환경 내에 통합한다. 지리공간적 추론을 지원하기 위해, 사회경제적 거리와 공간적 거리를 혼합하고 기증자 기여를 노출하는 지리적으로 정보화된 kNN 변형인 gKNN을 도입하여, 각 추정치를 어느 지역이 주도하는지 보여주는 출처 기반 시각적 책임성을 가능하게 한다. 우리의 주요 기여는 교차 방법 비교를 일급 시각적 과제로 만들고 표준 방법과 함께 gKNN을 통합하는 방법 불가지론적 시각적 분석 환경이다. 조율된 뷰는 히트맵, 공동 결측성 요약, 분포 진단을 통해 결측성 구조를 드러내며, 분석가가 결측성 패턴(MCAR/MAR)과 결측이 비무작위일 수 있는 경우(MNAR)를 추론하는 데 도움을 준다. 사용자는 모델을 비교하고 조정할 수 있으며, 분포 오버레이, 현재 대상 및 마스크에 대한 각 알고리즘의 MAE, RMSE, Delta RMSE, 실행 시간을 보고하는 방법 비교 요약, 변수 수준 불일치 뷰를 통해 결과를 심층 분석할 수 있다. 방법별 캐시된 결과와 고정된 축 스케일은 방법 전환 시 범위 변화로 인한 인지 부하를 줄인다. 이러한 비교는 방법들이 불일치하는 지점, 민감한 변수, 그리고 대체 선택이 하류 요약에 미치는 영향을 부각시킨다. 사례 연구는 ImputeViz가 분석가들이 효과적인 전략을 선택하고, 민감한 변수를 발견하며, 모델 견고성을 평가하는 데 어떻게 도움을 주는지 보여준다.

arXiv:2607.01945v1stat.ML공통 태그 Clustering, Imputation

완전 무작위 결측 데이터에 대한 $k$-평균 군집화의 통계적 성질

Statistical Properties of $k$-means Clustering for Data Missing Completely at Random

고전적인 $k$-평균 군집화는 불완전한 데이터에 직접 적용할 수 없으며, 결측 데이터를 위한 기존 $k$-평균 기반 군집화 연구들은 주로 군집화의 실용적 정확도 향상에 초점을 맞추고 있어 대부분 점근적 의미의 이론적 보장이 부족하다. 본 논문에서는 결측 데이터가 존재하는 상황에서 $k$-평균 군집화의 통계적 성질을 분석한다. 먼저 $\sqrt{n}$-초과 위험 한계를 확립하고, 일반적인 결측 메커니즘 하에서 추정된 군집 중심의 일치성을 증명한다. 완전 무작위 결측(MCAR) 메커니즘에 대해서는 추정된 군집 중심의 $\sqrt{n}$-수렴 속도와 점근적 정규성을 추가로 도출한다. 또한, 불완전 데이터로 추정된 군집 중심이 원래 완전 관측 데이터의 실제 군집 중심으로 수렴하는 조건을 분석하고, 결측 확률과 실제 군집 간 분리도에 관한 충분 조건을 제시한다. 이러한 결과들은 결측 데이터 $k$-평균에 대한 이론적 보장을 제공한다. 특히, 본 분석을 통해 MCAR 메커니즘 하에서 $\sqrt{n}$-속도 달성과 실제 군집 중심으로의 수렴 모두 $k$개의 실제 중심이 모든 차원에서 서로 구별될 것을 요구함을 밝히며, 이는 고차원 환경에서의 적용이 지닌 중대한 어려움을 부각한다. 마지막으로, 합성 불완전 데이터셋에 대한 수치 시뮬레이션을 수행하여 이론적 분석 결과를 뒷받침한다.

arXiv:2606.31253v1stat.ML공통 태그 Clustering, Imputation

MNAR-$k$-평균: 크기-감소 확률을 갖는 비무작위 결측 데이터에 대한 $k$-평균 군집화

MNAR-$k$-means: A $k$-means Clustering for Data Missing Not at Random with Magnitude-Decaying Probability

모든 데이터 특징으로부터 계산된 거리에 기반한 고전적 $k$-평균 군집화는 결측값이 있는 불완전한 데이터에 직접 적용할 수 없다. 결측 데이터로의 $k$-평균의 자연스러운 확장은 군집화에 관측된 위치만을 사용하는 것으로, 이는 결측값을 해당 군집 평균으로 대체(imputation)하는 것과 동치이다. 그러나 비무작위 결측(MNAR, Missing Not at Random) 데이터의 경우, 결측성이 데이터 값과 연관되어 있기 때문에 이러한 평균 대체 기반 방법은 추정된 군집 중심의 왜곡을 초래하여 군집화 결과가 저하될 수 있다. MNAR 메커니즘은 현실에서 매우 흔하므로, 이러한 데이터에 대한 $k$-평균 기반 군집화 방법의 성능을 향상시킬 필요가 있다. 본 논문에서는 절댓값이 작은 위치에서 데이터가 결측될 가능성이 높은 크기-감소(magnitude-decaying) MNAR 시나리오에 초점을 맞추고, 우수한 수학적 해석성을 갖는 대체값 크기에 대한 제약 조건에 기반한 새로운 $k$-평균 군집화 방법을 제안한다. 나아가, 제안된 방법의 추정된 군집 중심이 완전히 관측된 데이터의 진정한 군집 중심으로 수렴하는 통계적 일치성을 확립하고, 교대 최소화 알고리즘을 통해 제안된 손실 함수의 최적화를 해결한다. 시뮬레이션 실험을 통해 군집화 결과 개선 및 추정된 군집 중심의 바이어스 감소에 대한 제안 방법의 효과를 검증한다. 실세계 결측 데이터에 대한 적용은 제안된 방법의 유용성을 추가로 보여준다.

arXiv:2606.27984v1cs.LG공통 태그 Clustering, Imputation

다중 뷰 불완전·무질서 데이터를 위한 듀얼 학습 기반 페널티화 다중 정렬 클러스터링

Dual-Learning based Penalized Multi-Align Clustering for Multi-View Incomplete and Disorderly Data

멀티모달 특징 융합은 서로 다른 모달리티의 상보적 정보를 통합함으로써 실세계 데이터의 복잡한 패턴을 효과적으로 포착할 수 있다. 그러나 보일러 연소 모니터링, 장비 고장, 센서 샘플링 주기 불일치, 네트워크 지연 등 많은 응용 분야에서 이러한 요인들이 모달리티 누락과 시간적 비동기를 야기하는 경우가 많다. 이러한 문제들은 불완전하고 무질서한 멀티모달 데이터로 이어진다. 이를 해결하기 위해 이전 연구들은 융합 전에 클러스터 중심을 정렬하는 여러 데이터 융합 방법을 제안했다. 그러나 이러한 방법들에는 두 가지 핵심 한계가 있다. 첫째, 데이터 쌍의 샘플 수준 정렬을 정확하게 보장할 수 없다. 둘째, 이후 융합 성능에 영향을 미칠 수 있는 클래스 간 데이터 크기의 상당한 불균형을 다루지 않는다. 이러한 문제를 해결하기 위해, 우리는 DLPMAC라고 명명한 듀얼 학습 기반 페널티화 다중 정렬 클러스터링 모델을 제안한다. 듀얼 학습 메커니즘은 모델이 의미적·구조적 정보를 포함한 각 모달리티로부터 사전 지식을 학습할 수 있게 한다. 이는 국소 및 전역 수준 모두에서 모달리티 간 의미적 일관성과 구조적 유사성을 유지하는 데 도움이 된다. 또한 페널티화 다중 정렬 모듈은 페널티 메커니즘을 통해 다대다(multi-to-multi) 데이터 정렬을 수행한다. 이를 통해 하나의 샘플이 다른 모달리티의 서로 다른 샘플들과 데이터 쌍을 형성할 수 있어 데이터 쌍 정렬 정확도를 향상시킨다. 페널티 메커니즘은 또한 데이터 집약을 방지하여 과도하게 많은 샘플이 단일 샘플에 연결되는 경우를 피한다. 실험 결과는 DLPMAC가 샘플링 및 클러스터링 관점 모두에서 데이터 정렬과 융합 과제를 해결하는 데 효과적임을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.