arXiv:1707.00351

Dimensionality reduction with missing values imputation

Rania Mkhinini Gahar, Olfa Arfaoui, Minyar Sassi Hidri, Nejib Ben-Hadj Alouane

제출 2017-07-02

원문 초록

In this study, we propose a new statical approach for high-dimensionality reduction of heterogenous data that limits the curse of dimensionality and deals with missing values. To handle these latter, we propose to use the Random Forest imputation's method. The main purpose here is to extract useful information and so reducing the search space to facilitate the data exploration process. Several illustrative numeric examples, using data coming from publicly available machine learning repositories are also included. The experimental component of the study shows the efficiency of the proposed analytical approach.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.25924v1stat.ML공통 태그 Dimensionality Reduction, Imputation

조건부 텐서 확산: 분포적 반사실 학습 및 추론

Conditional Tensor Diffusion: Distributional Counterfactual Learning and Inference

인과 추론은 운영 및 관리 의사결정을 이끌지만, 고차원 패널 또는 텐서 설정에서는 여전히 어렵고, 이때 의사결정은 누락된 통제(control) 결과의 결합 조건부 분포에 의존할 수 있다. 본 연구는 처리(treatment) 마스크와 잠재 Tucker 구조를 조건부 확산에 통합하여, 관측된 통제 결과가 주어졌을 때 저차원 코어에서의 효율적인 비선형 score 학습을 통해 이 분포를 복구하는 Counterfactual Tucker Diffusion(CFTDiff)를 제안한다. 마스킹된 Tucker score는 텐서 모드 간 의존성을 유지하면서, 비선형 score 학습의 차원을 모드 차원의 곱에서 Tucker rank의 곱이라는 훨씬 작은 규모로 줄인다. Tucker rank, 최대 모드 차원, 요인 강도(factor-strength)로 조정된 누락 결과 수에 의존하는 조건부 score 추정의 고확률(high-probability) 오차 상계를 확립하고, 이 상계가 누락된 통제 결과의 조건부 분포 복구 보장으로 어떻게 이어지는지 보인다. 다양한 누락률에서의 시뮬레이션은 일반적인 인과 패널 및 행렬/텐서 completion 방법보다 더 정확한 점(point) 복구를 보여 주며, 중첩 확산 명세와의 비교는 마스킹 조건화와 Tucker 차원 축소의 이득을 추가로 뒷받침한다. 노르웨이 iFlex 실험에서 CFTDiff는 경쟁 방법보다 누락 결과를 더 정확하게 복구한다. 인과 분석에 적용하면 추정된 조건부 분포로부터 반사실(counterfactual) 예측 구간과 목표 달성 확률을 얻을 수 있어, 가격 개입을 수요 감소 규모와 신뢰성(reliability) 측면에서 평가할 수 있다.

arXiv:2607.03641v2stat.ML공통 태그 Dimensionality Reduction, Imputation

다양체 가설 하의 결측 데이터 대체

Missing Data Imputation under Manifold Hypothesis

다양체 가설(manifold hypothesis)은 고차원 데이터가 저차원 내재 다양체 근방에 집중되어 있다고 가정한다. 혼합 변분 오토인코더(VAE)의 최근 발전은 이러한 내재 구조를 충실하게 추출하는 강력한 도구를 제공한다. 이로부터 얻어지는 기하학적 구조는 변수들 간의 지역적 및 전역적 관계를 자연스럽게 도입하며, 결측 데이터를 체계적으로 대체할 수 있는 방법을 제공한다. 우리는 샘플링-중요도-재샘플링(SIR) 절차를 통해 \( p(\bm{x}_{\mathrm{mis}} \mid \bm{x}_{\mathrm{obs}}) \)로부터 샘플링할 수 있는 모델 기반 대체 방법을 제안하며, 이는 잠재 공간에서의 결합 확산 모델(diffusion model)로 더욱 보강될 수 있다. 우리의 방법은 내재 기하학적 구조를 존중하면서 결측 데이터를 대체하고, 최신 방법들과 경쟁력 있는 성능을 달성하며, 대체값의 불확실성을 정량화하고, 모델 기반이므로 전체 절차를 재실행하지 않고도 즉석 대체(on-the-fly imputation)가 가능하다.

arXiv:2607.08971v1cs.LG공통 태그 Dimensionality Reduction, Imputation

부분 관측 행동을 갖는 확률적 선형 밴딧

Stochastic Linear Bandits with Partially Observed Actions

확률적 선형 밴딧(stochastic linear bandit)은 행동을 벡터로 표현하고 보상이 선형인 순차적 의사결정의 핵심 패러다임이다. 본 연구에서는 학습 에이전트가 각 행동에 대해 좌표의 무작위 부분집합만을 관측하는 부분 관측(partially observed) 변형 문제를 다룬다. 이러한 부분 관측 가능성은 추천 및 의료와 같이 전체 행동 기술(description)을 얻는 것이 비용이 많이 들거나 불가능한 환경에서 자연스럽게 발생한다. 일반적으로 이는 준선형 후회(sublinear regret)를 정보이론적으로 불가능하게 만든다. 그러나 행동 벡터의 내재적 차원(intrinsic dimension)이 낮을 경우 이 장벽을 극복할 수 있음을 보인다. 우리는 마스킹된 행동으로부터 잠재 행동 부분공간(latent action subspace)을 추정하고, 에포크 단위로 고정된 표현을 이용해 현재 행동을 대체(impute)하며, 그 결과 얻어진 저차원 좌표에서 OFUL을 실행하는 알고리즘 TOFU-POV를 제안한다. 이론적으로 TOFU-POV는 주변 차원(ambient dimension)이 아닌 내재적 행동 부분공간 차원에 비례하는 $\sqrt{T}$ 후회를 달성하며, 이들 수량과 결측률, 결정 집합 크기, 부분공간 조건화(subspace conditioning) 간의 상호작용을 정량화한다. 또한 내재적 차원에 대한 사전 지식 없이도 동작하는 랭크 적응형(rank-adaptive) 알고리즘도 고안한다. 이러한 보장을 보완하기 위해, 통상적인 보상 학습 불확실성과 부분 관측에 내재된 결측 의존적 비용을 분리하는 새로운 곱 구성(product construction)에 기반한 하한을 제시한다. 합성 및 실제 데이터 실험을 통해 이론을 뒷받침하고, TOFU-POV가 이 어려운 문제에서 자연스러운 베이스라인에 비해 상당한 성능 향상을 달성할 수 있음을 보인다.

arXiv:2607.08579v1cs.HC공통 태그 Dimensionality Reduction, Imputation

ImputeViz: 결측 데이터 진단 및 대체 방법 비교를 위한 시각적 분석 대시보드

ImputeViz: A Visual Analytics Dashboard for Diagnosing Missing Data and Comparing Imputation Methods

결측 데이터는 과학, 사회과학, 공중보건 연구에서 지속적인 장애물로, 분석에 편향을 초래하고 결측값 처리 방식에 대한 책임을 분석가에게 부여한다. 우리는 결측성 진단, 대체 모델 구성, 결과 평가를 지원하는 통합 시각적 분석 대시보드인 ImputeViz를 소개한다. 이 시스템은 MICE, Random Forest, XGBoost, kNN을 포함한 널리 사용되는 방법들을 결측성 패턴을 명시적으로 드러내는 인터랙티브 환경 내에 통합한다. 지리공간적 추론을 지원하기 위해, 사회경제적 거리와 공간적 거리를 혼합하고 기증자 기여를 노출하는 지리적으로 정보화된 kNN 변형인 gKNN을 도입하여, 각 추정치를 어느 지역이 주도하는지 보여주는 출처 기반 시각적 책임성을 가능하게 한다. 우리의 주요 기여는 교차 방법 비교를 일급 시각적 과제로 만들고 표준 방법과 함께 gKNN을 통합하는 방법 불가지론적 시각적 분석 환경이다. 조율된 뷰는 히트맵, 공동 결측성 요약, 분포 진단을 통해 결측성 구조를 드러내며, 분석가가 결측성 패턴(MCAR/MAR)과 결측이 비무작위일 수 있는 경우(MNAR)를 추론하는 데 도움을 준다. 사용자는 모델을 비교하고 조정할 수 있으며, 분포 오버레이, 현재 대상 및 마스크에 대한 각 알고리즘의 MAE, RMSE, Delta RMSE, 실행 시간을 보고하는 방법 비교 요약, 변수 수준 불일치 뷰를 통해 결과를 심층 분석할 수 있다. 방법별 캐시된 결과와 고정된 축 스케일은 방법 전환 시 범위 변화로 인한 인지 부하를 줄인다. 이러한 비교는 방법들이 불일치하는 지점, 민감한 변수, 그리고 대체 선택이 하류 요약에 미치는 영향을 부각시킨다. 사례 연구는 ImputeViz가 분석가들이 효과적인 전략을 선택하고, 민감한 변수를 발견하며, 모델 견고성을 평가하는 데 어떻게 도움을 주는지 보여준다.

arXiv:2606.19046v1cs.CV공통 태그 Dimensionality Reduction, Imputation

Ky Fan p-k 노름을 이용한 분수 정규화 기반 저계수 텐서 완성

Low-Rank Tensor Completion Based on Fractional Regularization with Ky Fan p-k Norm

본 논문은 텐서 튜브 계수(tensor tubal rank)를 정확하게 근사하기 위해 텐서 핵 노름(tensor nuclear norm)과 텐서 Ky Fan p-k 노름(TNPK)의 비율인 새로운 비볼록 대체 함수(nonconvex surrogate)를 제안하여 저계수 텐서 완성(LRTC) 문제를 다룹니다. TNPK는 스케일 불변성(scale invariance), 매개변수 유연성, 그리고 p와 k의 특정 선택에 대해 해석해(closed-form solution)가 존재한다는 매력적인 특성을 가집니다. p와 k의 특정 매개변수 설정에서 이는 텐서 핵 노름과 텐서 Ky Fan k 노름(TNK)의 비율이나 텐서 핵 노름과 텐서 프로베니우스 노름(TNF)의 비율로 축소됩니다. 우리는 LRTC 모델을 구성하고, 텐서 영 공간 성질(null space property, NSP) 하에서 저계수 텐서가 제안된 모델의 국소 최소해(local minimizers)가 됨을 증명합니다. 또한, Ky Fan p-k 역노름(inverse-norm)의 근사 연산자(proximal operator)를 유도하고, 완화된 조건 하에서 부분 수렴(subsequential convergence)이 보장되는 효율적인 교대 방향 승수법(ADMM) 알고리즘을 추가로 개발합니다. 합성 데이터와 실제 데이터셋에 대한 광범위한 실험을 통해, 최신 경쟁 방법들(state-of-the-art competitors) 대비 우리 방법의 우수한 성능을 검증합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.