인과 추론은 운영 및 관리 의사결정을 이끌지만, 고차원 패널 또는 텐서 설정에서는 여전히 어렵고, 이때 의사결정은 누락된 통제(control) 결과의 결합 조건부 분포에 의존할 수 있다. 본 연구는 처리(treatment) 마스크와 잠재 Tucker 구조를 조건부 확산에 통합하여, 관측된 통제 결과가 주어졌을 때 저차원 코어에서의 효율적인 비선형 score 학습을 통해 이 분포를 복구하는 Counterfactual Tucker Diffusion(CFTDiff)를 제안한다. 마스킹된 Tucker score는 텐서 모드 간 의존성을 유지하면서, 비선형 score 학습의 차원을 모드 차원의 곱에서 Tucker rank의 곱이라는 훨씬 작은 규모로 줄인다. Tucker rank, 최대 모드 차원, 요인 강도(factor-strength)로 조정된 누락 결과 수에 의존하는 조건부 score 추정의 고확률(high-probability) 오차 상계를 확립하고, 이 상계가 누락된 통제 결과의 조건부 분포 복구 보장으로 어떻게 이어지는지 보인다. 다양한 누락률에서의 시뮬레이션은 일반적인 인과 패널 및 행렬/텐서 completion 방법보다 더 정확한 점(point) 복구를 보여 주며, 중첩 확산 명세와의 비교는 마스킹 조건화와 Tucker 차원 축소의 이득을 추가로 뒷받침한다. 노르웨이 iFlex 실험에서 CFTDiff는 경쟁 방법보다 누락 결과를 더 정확하게 복구한다. 인과 분석에 적용하면 추정된 조건부 분포로부터 반사실(counterfactual) 예측 구간과 목표 달성 확률을 얻을 수 있어, 가격 개입을 수요 감소 규모와 신뢰성(reliability) 측면에서 평가할 수 있다.
새로운 소재를 설계할 때, 원하는 특성을 갖도록 소재 설계를 조정하는 것이 종종 필요하다. 소재 설계 파라미터의 집합이 커질수록 탐색 공간은 지수적으로 증가하여, 모든 설계 조합의 실제 합성과 평가는 사실상 불가능해진다. 유한 요소 해석(FEA)과 같은 전통적인 계산 방법을 사용하더라도 이 설계 공간을 탐색하기에는 계산 비용이 지나치게 크다. 최근 방법들은 머신러닝(ML) 대리 모델을 사용하여 최적의 소재 설계를 보다 효율적으로 결정하지만, 이러한 방법들은 흔히 (i) 해석하기 어렵고 (ii) 학습 데이터가 전체 설계 공간의 비균일 샘플링에서 비롯될 경우 성능이 저하되는 문제가 있다. 본 연구에서는 해석 가능성과 예측을 위한 통합적 접근법으로서 텐서 완성(tensor completion) 방법의 활용을 제안한다. 우리는 고전적인 텐서 방법이 예측에서 전통적인 ML 방법과 경쟁할 수 있으며, 해석 가능한 텐서 인수(tensor factor)라는 부가적인 이점이 무상으로 제공됨을 관찰한다. 실험에서 우리는 텐서 인수를 통해 물리적 현상을 재발견할 수 있었으며, 이는 예측이 문제의 물리학과 정렬되어 있음을 나타낸다. 또한 기존 패턴을 재발견할 수 있다는 점에서, 이 인수들은 실험가들이 잠재적으로 새로운 패턴을 식별하는 데 활용될 수 있음을 의미한다. 아울러 설계 공간의 비균일 샘플링에서 비롯된 학습 데이터를 접할 때 두 유형의 대리 모델(전통적 ML 및 텐서 기반)의 효과를 연구한다. 저랭크(low-rank) 제약으로 인해 비균일 샘플링 시나리오에서 더 나은 일반화를 제공할 수 있는 일부 특화된 텐서 방법을 관찰한다. 최선의 일반화는 텐서 모델에서 나타나며, 이 모델은 기준선 ML 방법 대비 집계 R²에서 최대 5% 향상을 달성하고, 일부 분포 외(out of distribution) 구간에서의 오차를 절반으로 줄인다.
가우시안·포아송 등 표준 설정을 포괄하는 지수족(exponential-family) 잡음 하의 텐서 완성(tensor completion) 문제를 다루기 위해, 변환된 L1 함수 기반의 이중-TV(Dual-TV, DTV) 정규화 계열을 제안하여 그래디언트 텐서의 희소성과 저랭크(low-rank) 구조를 동시에 포착한다. 제안 추정량의 복원 오차에 대한 이론적 상·하한을 엄밀히 분석하고, 합성·이미지·비디오 데이터셋 실험을 통해 그 유효성을 검증하였다.
텐서 분해(TF)는 고차원 희소 데이터 완성 과제에 널리 활용되어 왔다. 상당한 진전에도 불구하고, 신경망 기반 TF 방법들은 복잡한 모드 간 상호작용을 포착하는 데 어려움을 겪으며, (극단적인) 데이터 희소성에 취약한 상태로 남아 있다. 이러한 문제를 해결하기 위해, 우리는 그룹 수준 대조 학습을 결합한 이중 어텐션 합성곱 전문가 네트워크(DCGC)라는 새로운 신경망 기반 텐서 분해 방법을 제안한다. 첫 번째 문제에 대해, DCGC는 다중 채널 합성곱 네트워크를 통해 잠재 요인의 다양한 비선형 정렬 패턴을 생성하고, 게이팅된 이중 어텐션 메커니즘을 활용하여 모델이 더 중요한 출력 채널(즉, 합성곱 전문가)과 정렬된 특징에 집중하도록 유도한다. 또한, DCGC는 동일한 피드백 수준의 긍정 샘플을 집계하면서 서로 다른 수준의 부정 샘플을 분리하는 그룹 수준 대조 학습 전략을 도입한다. 이 전략은 고품질의 자기 지도 신호를 주입하여 데이터 희소성을 완화한다. 다섯 개의 데이터셋에서 수행된 광범위한 실험을 통해, DCGC가 교통 및 추천 애플리케이션에 대한 희소 텐서 완성에서 최신 기법들을 능가함을 입증한다. 논문의 실험 결과를 재현하기 위한 코드는 https://github.com/ku1z/DCGC 에서 확인할 수 있다.
본 논문은 텐서 튜브 계수(tensor tubal rank)를 정확하게 근사하기 위해 텐서 핵 노름(tensor nuclear norm)과 텐서 Ky Fan p-k 노름(TNPK)의 비율인 새로운 비볼록 대체 함수(nonconvex surrogate)를 제안하여 저계수 텐서 완성(LRTC) 문제를 다룹니다. TNPK는 스케일 불변성(scale invariance), 매개변수 유연성, 그리고 p와 k의 특정 선택에 대해 해석해(closed-form solution)가 존재한다는 매력적인 특성을 가집니다. p와 k의 특정 매개변수 설정에서 이는 텐서 핵 노름과 텐서 Ky Fan k 노름(TNK)의 비율이나 텐서 핵 노름과 텐서 프로베니우스 노름(TNF)의 비율로 축소됩니다. 우리는 LRTC 모델을 구성하고, 텐서 영 공간 성질(null space property, NSP) 하에서 저계수 텐서가 제안된 모델의 국소 최소해(local minimizers)가 됨을 증명합니다. 또한, Ky Fan p-k 역노름(inverse-norm)의 근사 연산자(proximal operator)를 유도하고, 완화된 조건 하에서 부분 수렴(subsequential convergence)이 보장되는 효율적인 교대 방향 승수법(ADMM) 알고리즘을 추가로 개발합니다. 합성 데이터와 실제 데이터셋에 대한 광범위한 실험을 통해, 최신 경쟁 방법들(state-of-the-art competitors) 대비 우리 방법의 우수한 성능을 검증합니다.